ابتكر باحثون في معهد ماساتشوستس للتكنولوجيا ما يسمونه أول نظام ذكاء اصطناعي مختل عقليًا في العالم يسمى “نورمان”. تم تدريب خوارزمياته من خلال عرض نصوص وصور مزعجة عن الموت ، مما يجعل النظام يتصرف مثل مختل عقليًا. اشتق اسم “نورمان” من الشخصية الرئيسية في فيلم “نفسية” للمخرج ألفريد هيتشكوك عام 1960.
كجزء من التجربة ، قام الباحثون بتدريب نظام نورمان باستخدام نصوص من مجموعات Reddit مخصصة لتوثيق ومراقبة الوفيات البشعة. لأسباب فنية وأخلاقية ، استخدم فريق البحث في معهد ماساتشوستس للتكنولوجيا تعليقات وأوصاف للصور ، وليس صورًا فعلية لأشخاص. تتوق لمعرفة ما إذا كانت ستغير هذه البيانات والمعلومات من سلوك نظام الذكاء الاصطناعي.
في حين أن القاعدة الأساسية لتوثيق الموت في مجموعات Reddit هي أن المنشور المشترك يجب أن يتضمن مقطع فيديو لشخص يحتضر بالفعل ، ويجب أن تكون عناوين المنشورات وصفية ودقيقة بما يكفي لفهم ما يدور حوله الموضوع بالضبط. شاب.”
ثم أخضع الباحثون نظام نورمان لاختبار سلسلة رورشاخ ، وهو اختبار نفسي للشخصية والذكاء طوره الطبيب النفسي السويسري هيرمان رورشاخ في عام 1921. وهو يختبر ما يراه الناس عندما ينظرون إلى سلسلة من بقع الحبر التي تمثل أنماطًا مجردة نموذجية ويطلب منهم تحليلها. أو تفسيرها ، ثم يتم تحليل الردود. يخضع المشاركون لطبيب نفسي لقياس اضطرابات التفكير المحتملة.
خضع نظام الذكاء الاصطناعي القياسي لنفس اختبار Rorschach مثل نظام نورمان لمقارنة النتائج ، والتي كانت كالتالي:
في أحد اختبارات بقعة الحبر التي عُرضت على النظامين ، رأى نظام الذكاء الاصطناعي القياسي أنها “لقطة مقرّبة لمزهرية من الزهور” ، بينما رأى نظام نورمان أنها “لقطة رجل”.
في مثال آخر ، وصف نظام الذكاء الاصطناعي القياسي بقعة الحبر بأنها “صورة بالأبيض والأسود لطائر صغير” ، بينما وصفها نظام نورمان بأنها “إنسان يُسحب إلى آلة العجين”.
أجب عن السؤال لماذا أنشأ معهد ماساتشوستس للتكنولوجيا نظام ذكاء اصطناعي سيكوباتي؟ قال الباحثون إنهم يحاولون تعلم كل شيء عن الخوارزميات وأنه عندما تحدث أشياء مثل هذه ، من الصعب إلقاء اللوم على الآلة لأن البيانات المستخدمة لتدريب خوارزميات التعلم الآلي يمكن أن تؤثر بشكل كبير على سلوكهم.
لذلك عندما يتحدث الناس عن خوارزميات الذكاء الاصطناعي متحيزة وغير عادلة ، فغالباً ما لا يكون الجاني هو الخوارزمية نفسها ، ولكن البيانات المتحيزة التي تدخل فيها.
قال فريق البحث ، الذي يضم بينار يانارداغ ومانويل سيبريان وإياد رهوان من معهد ماساتشوستس للتكنولوجيا ، إن الدراسة أظهرت أن البيانات المستخدمة لتدريب خوارزميات التعلم الآلي يمكن أن تؤثر بشكل كبير على سلوكهم.