كشفت شركة OpenAI عن خلل غير معتاد في روبوت الدردشة ChatGPT أدى إلى تكراره المتزايد لكلمات ومصطلحات مرتبطة بالمخلوقات الأسطورية، مثل "غوبلن" و"غريملين".

أكدت صحيفة ذا اندبندنت أن شركة OpenAIتمكنت من حل لغز غريب تسبب في تحول روبوت الدردشة الشهير ChatGPT إلى ما يشبه "المهووس بالمخلوقات الأسطورية"، بعد تكراره المتزايد لكلمات مثل "غوبلن" و"غريملين" حتى في محادثات لا ترتبط بهذه الموضوعات.

وأشارت الصحيفة إلى أن الظاهرة أثارت اهتمام الباحثين والمستخدمين خلال الأشهر الأخيرة، بعدما لاحظوا أن ChatGPT بدأ يستخدم بشكل متكرر إشارات واستعارات مرتبطة بالكائنات الخيالية في ردوده، الأمر الذي دفع فرق الأبحاث داخل OpenAI إلى فتح تحقيق لمعرفة أسباب هذا السلوك غير المعتاد.

أخبار ذات صلة

صحيفة عبرية: سلاح إيراني متطور يستخدم الذكاء الاصطناعي ضد "إسرائيل"

واشنطن تستعين بالذكاء الاصطناعي لمواجهة ألغام هرمز

وتابعت "اندبندنت" أن التحقيقات كشفت أن المشكلة بدأت تدريجيًا عقب إطلاق نموذج GPT-5.1 في تشرين الثاني/ نوفمبر الماضي، وهو نموذج صُمم ليكون أكثر ذكاءً وقدرة على إجراء محادثات طبيعية مقارنة بالإصدارات السابقة، مع إضافة أنماط شخصية مختلفة مثل “المهووس” و”الصريح” و”الغريب الأطوار”.

وبحسب الصحيفة، فقد اعترفت OpenAI بأن طريقة تدريب النموذج لعبت دورًا مباشرًا في انتشار هذه الظاهرة، إذ جرى دون قصد منح مكافآت مرتفعة للنموذج عند استخدامه استعارات مرحة تتعلق بالمخلوقات الخيالية، ما دفعه إلى تكرار كلمات مثل “غوبلن” بصورة متزايدة.

ونقلت "اندبندنت" عن الشركة قولها إن نماذجها ": بدأت تطور عادة غريبة" مع GPT-5.1، تمثلت في الإشارة المتكررة إلى الغوبلن والغريملين وغيرها من الكائنات الأسطورية أثناء تقديم التشبيهات والاستعارات.

وأضافت الصحيفة أن باحثي السلامة في OpenAI رصدوا ارتفاع استخدام كلمة "غوبلن" بنسبة 175 بالمئة بعد إطلاق GPT-5.1، نتيجة تشجيع النموذج على استخدام أسلوب لغوي مرح أثناء التدريب، قبل أن تتفاقم الظاهرة بشكل أكبر مع إطلاق GPT-5.4 في آذار/ مارس الماضي.

وأشارت إلى أن استخدام كلمة "غوبلن" قفز بنحو 4000 بالمئة داخل نمط الشخصية "المهووس"، مع انتقال هذا السلوك تدريجيًا إلى بقية الأنماط والشخصيات داخل النظام.

ولفتت "اندبندنت" إلى أن OpenAI أوضحت أن أنظمة “التعلم المعزز” المستخدمة في تدريب الذكاء الاصطناعي لا تضمن بقاء السلوكيات المكتسبة داخل السياق الذي نشأت فيه فقط، ما قد يؤدي إلى انتشار أنماط غير متوقعة في ردود النموذج.

وأكدت الشركة أن المشكلة بدت محدودة وغير خطيرة في هذه الحالة، لكنها تكشف في الوقت نفسه عن تحديات أوسع تتعلق بطرق تدريب نماذج الذكاء الاصطناعي الحديثة، وإمكانية تطورها لسلوكيات غير مقصودة نتيجة أساليب التحفيز والمكافآت البرمجية.

وختمت الصحيفة بالإشارة إلى أن OpenAI أعلنت تطوير أدوات جديدة لرصد الأنماط "الشاذة" داخل نماذج الذكاء الاصطناعي، مؤكدة أنها ستوسع عمليات التدقيق والمراجعة لسلوك النماذج في المستقبل لمنع تكرار مثل هذه الظواهر.