أثار التطور المتسارع في تقنيات الذكاء الاصطناعي مخاوف جديدة بشأن إمكانية استخدامها في تطوير أسلحة بيولوجية، مع ظهور نماذج متخصصة في علوم الأحياء قادرة على التعامل مع البيانات الجينية وتصميم جينومات جديدة، بالتزامن مع رصد محاولات لاستخدام نماذج ذكاء اصطناعي في أبحاث تتعلق بمسببات أمراض قد تكون خطرة.
وقالت صحيفة "نيويورك تايمز"، في تقرير للكاتب كارل زيمر، إن المخاوف من دور الذكاء الاصطناعي في تطوير الأسلحة البيولوجية تصاعدت خلال الأشهر الماضية، بعدما حذر خبراء في الأمن البيولوجي في نيسان / أبريل من سهولة الحصول على إرشادات من روبوتات المحادثة بشأن جعل مسببات الأمراض أكثر خطورة.
وفي حزيران / يونيو، وقع علماء ومسؤولون تنفيذيون في قطاع الذكاء الاصطناعي رسالة مفتوحة طالبت بفرض ضوابط جديدة على تصنيع الحمض النووي، في ظل قدرة الذكاء الاصطناعي على تسريع تصميم السموم والفيروسات.
ثم أفاد علماء في آب / أغسطس بأنهم استخدموا الذكاء الاصطناعي لبناء فيروسات لم تكن موجودة في الطبيعة، قبل أن تعلن شركة "Anthropic" في أيلول / سبتمبر أنها أحبطت عدة محاولات لاستخدام نماذجها من جانب أشخاص ربما كانوا يسعون إلى تحويل مسببات الأمراض إلى أسلحة.
وبعد ذلك، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى إبطاء تطوير الذكاء الاصطناعي، مقترحًا فرض حظر على "استخدام الذكاء الاصطناعي لإنتاج أسلحة بيولوجية أو السماح للمستخدمين بفعل ذلك".
هل يمثل الذكاء الاصطناعي تحولًا في خطر الأسلحة البيولوجية؟
وأشارت "نيويورك تايمز" إلى أن هذه التطورات قد تعطي انطباعًا بأن جهات سيئة بات بإمكانها إطلاق أوبئة غير معروفة سابقًا بفضل الذكاء الاصطناعي، إلا أن بعض الخبراء يرون أن الوضع الحالي لا يصل إلى هذا الحد.
وقال درو إندي، عالم الأحياء الاصطناعية في جامعة ستانفورد، والذي شارك في إعداد تقرير حول الأمن البيولوجي العام الماضي، إن روبوتات المحادثة الحالية، ومنها نموذج Claude التابع لـAnthropic، لا تمثل في الوقت الراهن تحولًا جذريًا في مستوى التهديد الذي تمثله الأسلحة البيولوجية.
وأضاف أن التأثير الإجمالي لهذه النماذج على مخاطر الأمن البيولوجي حاليًا "متواضع"، لكنه حذر من أن الوضع قد يتغير مع تطوير نماذج ذكاء اصطناعي متخصصة في الأبحاث البيولوجية.
وبحسب الصحيفة، تستطيع هذه النماذج بالفعل توليد جينومات لفيروسات قابلة للحياة ولم تكن موجودة في الطبيعة، ما يثير احتمال استخدامها مستقبلًا لتطوير أسلحة جديدة.
وتُعرّف الأسلحة البيولوجية بأنها فيروسات أو مسببات أمراض أخرى، مثل البكتيريا والفطريات، يمكن تصميمها لاستخدامها ضد الجيوش أو المدنيين، كما يمكن أن تكون عبارة عن سموم تنتجها الكائنات الحية، مثل سم البوتولينوم الذي تنتجه بعض البكتيريا أو الريسين المستخرج من نبات الخروع.
خطر قديم قبل ظهور الذكاء الاصطناعي
وأكدت "نيويورك تايمز" أن التهديد الذي تمثله الأسلحة البيولوجية ليس جديدًا، إذ يعود استخدام الأمراض كسلاح إلى قرون.
وأشارت إلى أنه في عام 1346، استخدم المغول جثث أشخاص ماتوا بالطاعون الدبلي، وقذفوا بها إلى مدينة كافا على البحر الأسود.
وبعد قرون، ومع تطور نظرية الجراثيم، أصبحت محاولات استخدام الأمراض في الحروب أكثر دقة. وخلال الحرب العالمية الأولى، تسلل جواسيس ألمان إلى الولايات المتحدة ودول أخرى حاملين قوارير تحتوي على بكتيريا، واستخدموها لقتل آلاف الخيول والبغال.
ورغم أن بروتوكول جنيف حظر الحرب البيولوجية، فإن القوى الكبرى واصلت تطوير الأسلحة البيولوجية.
وقالت الصحيفة إن الولايات المتحدة والاتحاد السوفيتي امتلكا في نهاية المطاف مخزونات ضخمة من الأسلحة البيولوجية، شملت قنابل تحتوي على الجمرة الخبيثة وبالونات محملة بفطريات تقتل القمح.
وبعد توقيع اتفاقية الأسلحة البيولوجية عام 1975، دمرت الولايات المتحدة مخزوناتها الضخمة، لكنها واصلت دراسة الأسلحة البيولوجية بهدف تطوير وسائل دفاعية ضدها.
أما الاتحاد السوفيتي، فواصل سرًا إجراء أبحاث على مسببات الأمراض، بينها الجدري، بهدف تطوير جيل جديد من الأسلحة البيولوجية.
وقالت "نيويورك تايمز" إن تاريخ هذه الأسلحة يؤكد أن الخطر كان موجودًا قبل ظهور OpenAI وAnthropic بوقت طويل، ومع ذلك، وبحسب ما هو معروف علنًا، تسببت الأسلحة البيولوجية في عدد قليل جدًا من الوفيات منذ الحرب العالمية الثانية.
ونقلت الصحيفة عن توماس إنغلسبي، مدير مركز جونز هوبكنز للأمن الصحي، قوله إن الباحثين لا يعرفون على وجه الدقة ما الذي جرى تجربته وفشل، وما الذي جرى ردعه، وما الذي كان من الصعب تنفيذه من الناحية التكنولوجية.
تصنيع الحمض النووي أصبح أسرع وأرخص
وأشار إنغلسبي إلى أن خطر الأسلحة البيولوجية لا يزال قائمًا، خصوصًا مع امتلاك من يسعون إلى تطويرها أدوات قوية لم تكن متاحة للأجيال السابقة.
ومن أبرز هذه الأدوات، بحسب التقرير، التطور الكبير في تصنيع الحمض النووي، الذي أصبح أسرع وأرخص.
وذكرت الصحيفة أنه في عام 2016، أعلن علماء كنديون أنهم أعادوا إنتاج فيروس "حصان الجدري" horsepox، وهو فيروس مرتبط بالجدري اختفى من الطبيعة خلال العقود الأخيرة.
وقام العلماء بتقسيم تسلسل جينوم الفيروس إلى أجزاء، وأرسلوا تلك الأجزاء إلى شركة متخصصة في تصنيع الحمض النووي، قبل أن تعيد الشركة الجزيئات إلى الباحثين الذين جمعوها لتكوين جينوم فيروسي وأدخلوه إلى الخلايا.
وأنتجت الخلايا المصابة فيروسات حصان الجدري الحقيقية.
وفي ذلك الوقت، اعتُبرت التجربة إنجازًا علميًا لافتًا ومثيرًا للقلق في الوقت نفسه، إلا أن التطورات اللاحقة في تصنيع الحمض النووي وغيرها من التقنيات جعلت إجراء مثل هذه التجارب أقل تكلفة وأسهل من السابق.
ماذا يضيف الذكاء الاصطناعي؟
وبحسب "نيويورك تايمز"، يمكن لروبوتات المحادثة الآن البحث في الأدبيات العلمية والإجابة عن أسئلة قد يطرحها شخص يسعى إلى تطوير أسلحة بيولوجية.
وقال إنغلسبي إن الذكاء الاصطناعي يمكن أن يوفر للجهات التي تريد إساءة استخدام هذه المعرفة معلومات أكثر بكثير مما يمكنها جمعه من عمليات البحث التقليدية على الإنترنت.
وأوضح أن الذكاء الاصطناعي لا يكتفي بتقديم المعلومات، بل يجعلها قابلة للاستخدام، كما يتيح للمستخدم العودة إليه مرات غير محدودة لمعالجة المشكلات وطلب شرح أكثر تفصيلًا، إلى جانب توفير الموارد التقنية المرتبطة بالسؤال.
وفي المقابل، قال إندي إنه يشعر بالارتياح تجاه قيام Anthropic بفحص الاستفسارات بحثًا عن النوايا الخطرة، معتبرًا أن الشركة، إذا أُخذت إجراءاتها كما هي معلنة، تحاول التعامل بمسؤولية مع التكنولوجيا الجديدة.
نماذج تتعلم البيولوجيا مباشرة
وأوضحت الصحيفة أن نماذج الذكاء الاصطناعي الكبيرة التي طورتها شركات مثل Anthropic تدربت على كميات ضخمة من النصوص، بما فيها سجلات الأبحاث التي أنجزها علماء في أجيال سابقة.
ويمكن لهذه النماذج الوصول إلى هذه المعلومات بسرعة وربط نتائج علمية سابقة ربما لم يربط بينها الباحثون من قبل، لكنها لا تمتلك فهمًا عميقًا لعلم الأحياء يتجاوز ما اكتشفه العلماء بالفعل.
غير أن علماء آخرين يعملون على تطوير نماذج جديدة يمكنها، إلى حد ما، تعلم البيولوجيا بنفسها.
وبدلًا من تدريبها على الكتب والنصوص، تعتمد هذه النماذج على بيانات خام تتعلق بالحمض النووي والخلايا.
ومن بين هذه النماذج "Evo2"، الذي طوره علماء في جامعة ستانفورد ومعهد Arc، ودربوه باستخدام تسلسلات الحمض النووي لملايين الأنواع.
وتعلم النموذج أنماطًا خفية في الجينات، ما أتاح استخدامه في إنشاء أنواع جديدة من الإنزيمات.
بعد ذلك، أراد الباحثون معرفة ما إذا كان بإمكان النموذج إنتاج جينومات يمكنها دعم الحياة.
وخضع Evo2 لجولة إضافية من التدريب على جينومات مجموعة من الفيروسات وثيقة الصلة ببعضها، تُعرف باسم microvirids، وهي فيروسات غير ضارة للبشر وتصيب فقط بكتيريا الإشريكية القولونية "E. coli".
وقدم النموذج مئات الآلاف من الجينومات الجديدة لهذه الفيروسات، وتمكن 16 منها من إنتاج فيروسات حقيقية.
لماذا لم يُدرّب النموذج على فيروسات البشر؟
ولأسباب تتعلق بالسلامة، لم يدرب مطورو Evo2 النموذج على فيروسات تصيب البشر أو الأنواع المرتبطة بها.
لكن "نيويورك تايمز" أشارت إلى أنه من الناحية النظرية يمكن لنسخة من Evo2 مدربة بهذه الطريقة أن تنتج نوعًا مختلفًا من فيروسات الجدري.
ومع ذلك، فإن تنفيذ مثل هذه المهمة لن يكون أمرًا بسيطًا، إذ إن جينوم الجدري أكبر بـ35 مرة من جينومات فيروسات microvirid التي تعامل معها النموذج.
وحتى لو نجحت مثل هذه الجهود، فإن النتيجة ستكون مجرد نسخة مختلفة من فيروس سبق أن جرى تحويله إلى سلاح بيولوجي في ثمانينيات القرن الماضي.
لكن إنغلسبي حذر من أنه في حال غياب الضوابط المناسبة، يمكن لبرامج مثل Evo2 أن تصبح أكثر فائدة في تطوير أسلحة بيولوجية جديدة.
وقال إن أنظمة الذكاء الاصطناعي، مع توفر بيانات تدريب كافية، قد تصبح قادرة على التنبؤ بمتغيرات أكثر فتكًا وعدوى وقدرة على تفادي جهاز المناعة.
كما أعرب عن مخاوفه من أن تتمكن النماذج مستقبلًا من ابتكار فيروسات مختلفة بصورة كبيرة عن الفيروسات الموجودة في الطبيعة.
مخاوف جديدة من استخدام حكومي
وقالت الصحيفة إن التطورات التي أعلنت عنها Anthropic هذا الأسبوع أثارت مخاوف أكثر إلحاحًا لدى خبراء الأمن البيولوجي، بعدما بدت الاستفسارات المتعلقة بالإنفلونزا ومسببات الأمراض الأخرى وكأنها جاءت من مختبرات تديرها دول، وليس من أفراد يعملون بشكل منفرد في مجال البيولوجيا.
وقال إنغلسبي إن إساءة استخدام نموذج من جانب طالب دكتوراه بصورة فردية لا تمثل سوى جزء صغير من المشكلة.
أما إندي، فأبدى مخاوف من أن يؤدي استخدام الحكومات للذكاء الاصطناعي في أبحاث الحرب البيولوجية إلى إعادة إحياء سباق تسلح شبيه بذلك الذي شهدته فترة الحرب العالمية الثانية.
وأشار إلى أن وزارة الخارجية الأمريكية تتهم حاليًا كوريا الشمالية وروسيا بامتلاك برامج، وتشتبه في إيران والصين، بينما توجه الصين بدورها اتهامات إلى الولايات المتحدة وروسيا.
وقال إن هذا الوضع لم يكن قائمًا قبل 10 سنوات.
هل يمكن الحد من الخطر؟
وأكد إندي وإنغلسبي أن هناك خطوات يمكن اتخاذها لتقليل احتمالات وقوع كارثة.
وأشارت "نيويورك تايمز" إلى أن الدول سبق أن تفاوضت بشأن اتفاقيات الأسلحة البيولوجية، ويمكنها السعي إلى اتفاقيات جديدة في الوقت الحالي.
وكانت إدارة الرئيس الأمريكي السابق جو بايدن قد وضعت قواعد تلزم شركات تصنيع الحمض النووي بفحص الطلبات بحثًا عن تسلسلات مثيرة للشك، إلا أن إدارة الرئيس دونالد ترامب علقت هذه القواعد العام الماضي، ولم تصدر حتى الآن معايير جديدة.
ويرى إندي أن مواجهة الخطر لا ينبغي أن تقتصر على محاولة منع استخدام سلاح بيولوجي بعد تطويره، وإنما يجب اتخاذ خطوات استباقية لحماية المجال البيولوجي.
ويشمل ذلك، بحسب ما نقله التقرير، تعزيز القدرة على مواجهة الأوبئة بمختلف أنواعها، سواء كانت ناجمة عن مسببات أمراض طورها البشر أو أمراض انتقلت من الحيوانات إلى الإنسان.
كما دعا إندي إلى تجهيز أماكن عامة، مثل المستشفيات والمدارس، بأجهزة استشعار قادرة على اكتشاف المخاطر المحمولة جوًا، بما يسمح باتخاذ إجراءات مناسبة عند رصد فيروس في المكان.
وقال إن المخاطر البيولوجية ليست شيئًا غامضًا أو خارقًا، وإن اكتشاف الفيروسات المحمولة جوًا في الأماكن التي يوجد فيها الناس يمكن أن يساعد في التعامل معها.
