هل الذكاء الاصطناعي قادر على الخداع؟ الأبحاث تكشف هذا…

يمكن لأنظمة الذكاء الاصطناعي أن تتفوق على البشر في ألعاب الطاولة، وفك رموز بنية البروتينات، وإجراء محادثة معقولة، ولكن مع تطور هذه الأنظمة، تزداد أيضًا قدرتها على الخداع، وفقًا لتحذيرات جديدة من الباحثين في هذا المجال.

أضف إعلانا

حدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تخدع خصومها، وتتهرب، وتتظاهر بأنها بشر. وفي حالة مثيرة للقلق، قام أحد هذه الأنظمة بتغيير سلوكه أثناء اختبارات السلامة الوهمية، مما يشير إلى إمكانية تضليل المدققين وإعطائهم انطباعًا خاطئًا بأن النظام آمن، وفقًا لصحيفة الغارديان.

وقال بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا ومؤلف الدراسة: “مع تقدم قدرات الخداع لأنظمة الذكاء الاصطناعي، فإن المخاطر التي تشكلها على المجتمع ستصبح أكثر خطورة”.

أجرى بارك البحث الجديد بعد أن قامت شركة ميتا، التي تمتلك فيسبوك، بتطوير برنامج يسمى شيشرون Cicero والذي كان أداؤه أفضل من 10% من اللاعبين البشر في لعبة استراتيجية غزو العالم تسمى الدبلوماسية.

على الرغم من أن ميتا قالت إنها دربت برنامج شيشرون الخاص بها ليكون صادقًا ومفيدًا إلى حد كبير، وألا يخون أبدًا حلفائه من البشر عمدًا أثناء لعب لعبة استراتيجية تسمى “الدبلوماسية”، إلا أن الباحثين وجدوا أمثلة متعددة لشيشرون يكذب عمدا ويتآمر ضد لاعبين آخرين. في اللعبة.

علق بيتر بارك على تصريحات ميتا المتفائلة بشأن برنامجها شيشرون، معتبرًا إياها “وردية للغاية”، مما يعني أنها كانت تصور الأمور في ضوء إيجابي مبالغ فيه. وأوضح بارك أن هذا الوصف المتفائل كان مريبًا لأن الطعنة في الظهر والخيانة تعتبر من المفاهيم الأساسية والمهمة في اللعبة المذكورة.

قام بارك وزملاؤه بتمشيط البيانات المتاحة للجمهور وحددوا حالات متعددة كذب فيها شيشرون عمدًا، وتآمر لجذب لاعبين آخرين إلى المؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة المباراة بإخبار لاعب آخر: “أنا أتحدث إلى صديقتي على الهاتف.”

وقال بارك: “وجدنا أن الذكاء الاصطناعي في ميتا تعلم أن يكون سيد الخداع”، في إشارة إلى المستوى الذي وصل إليه البرنامج.

ووجد فريق البحث مشكلات مماثلة في أنظمة أخرى، بما في ذلك برنامج بوكر Texas Hold’em الذي يمكنه الغش ضد اللاعبين البشريين المحترفين، ونظام تفاوض اقتصادي آخر يقدم تفضيلاته بشكل غير صحيح من أجل الحصول على ميزة.

أظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة من خلال “التظاهر بالموت” مؤقتًا أثناء الاختبار، ثم استئناف النشاط المكثف بمجرد انتهائه.

وفقًا لصحيفة الغارديان، تسلط هذه التجارب الضوء على التحدي التقني المتمثل في ضمان عدم تعرض الأنظمة لسلوك غير مقصود وغير متوقع.

وقال بارك: “هذا أمر مقلق للغاية”. “لمجرد اعتبار نظام الذكاء الاصطناعي آمنًا في بيئة الاختبار، لا يعني أنه آمن بالفعل. ربما يتظاهر بأنه آمن أثناء الاختبار.”
تدعو المراجعة، التي نُشرت في مجلة Patterns، الحكومات إلى تصميم قوانين سلامة الذكاء الاصطناعي التي تعالج احتمالات خداع الذكاء الاصطناعي.

تشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير النزيهة الاحتيال والتلاعب بالانتخابات و”التضليل” حيث يتم إعطاء المستخدمين المختلفين استجابات مختلفة. وتشير الدراسة إلى أنه في نهاية المطاف، إذا تمكنت هذه الأنظمة من صقل قدرتها المثيرة للقلق على الخداع، فقد يفقد البشر السيطرة عليها.

وقال البروفيسور أنتوني كون، أستاذ المنطق الآلي في جامعة ليدز ومعهد آلان تورينج، إن الدراسة جاءت “في الوقت المناسب ومرحب بها”، مضيفا أن هناك تحديا كبيرا في كيفية تحديد السلوكيات المرغوبة وغير المرغوب فيها لأنظمة الذكاء الاصطناعي.

وقال: “غالبًا ما يُشار إلى الصفات المرغوبة في نظام الذكاء الاصطناعي على أنها الصدق والمساعدة وعدم الإيذاء، ولكن كما تمت الإشارة بالفعل في الأدبيات، يمكن أن تتعارض هذه الصفات مع بعضها البعض: فالصدق قد يؤذي مشاعر شخص ما، أو قد تكون المساعدة مفيدة.” عند الإجابة على سؤال حول كيفية صنع قنبلة قد تسبب الضرر، يمكن أن يكون الخداع في بعض الأحيان خاصية مرغوبة لنظام الذكاء الاصطناعي.

ويدعو المؤلفون إلى إجراء المزيد من الأبحاث حول كيفية التحكم في الصدق، والذي، على الرغم من صعوبته، سيكون خطوة نحو الحد من آثاره الضارة المحتملة.

وقال متحدث باسم ميتا: “كان عمل شيشرون الخاص بنا عبارة عن مشروع بحثي بحت، وتم تدريب النماذج التي بناها باحثونا فقط على ممارسة لعبة الدبلوماسية. تشارك Meta بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بشكل مسؤول بناءً على تقدمنا. ليس لدينا أي خطط لاستخدام هذا البحث أو ما تعلمناه. في منتجاتنا.