"هلوسة" الذكاء الاصطناعي تثير مخاوف الخبراء

إذا قضى القارئ بعض الوقت مع "تشات جي بي تي" ChatGPT وروبوتات الدردشة الأخرى، فسيلاحظ أنها تعاني من الهلوسة، وتختلق معلومات غير موجودة، وتتفوّه بالأكاذيب. وتصاب روبوتات الدردشة بالهلوسة وتختلق معلومات غير صحيحة عند الإجابة عن الأسئلة، وهذه مشكلة تواجه أنواع المستخدمين الذين يستعينون بالذكاء الاصطناعي للحصول على الإجابات خلال الدراسة والبحث والعمل. وتزداد خطورة هذه المشكلة عندما يُستخدم روبوت الدردشة للإجابة عن أسئلة إجاباتها ذات عواقب عالية الخطورة، مثل العلاج النفسي والنصوص القانونية.

ونقلت وكالة أسوشييتد برس للأنباء عن رئيسة شركة أنثروبيك، مالكة روبوت الدردشة كلود 2، دانييلا أمودي، قولها: "لا أعتقد أن هناك أي نموذج اليوم لا يعاني من بعض الهلوسة". وأوضحت أمودي أن النماذج "صُمّمت نوعاً ما للتنبؤ بالكلمة التالية، وبالتالي سيكون هناك معدل معين من القيام بذلك بشكل غير دقيق".

تَعِد "أنثروبيك" و"أوبن إيه آي" مالكة "تشات جي بي تي"، والشركات الرئيسية المطوِّرة لأنظمة الذكاء الاصطناعي التوليدي، بجعلها أكثر صدقاً. لكن كم من الوقت سيستغرق ذلك؟ وهل ستكون جيدة بما يكفي لتقديم المشورة الطبية مثلاً بأمان؟

يتوقع معهد ماكينزي أنه يضيف الذكاء الاصطناعي التوليدي 2.6 إلى 4.4 تريليونات دولار إلى الاقتصاد العالمي. وتُعَد روبوتات الدردشة جزءاً واحداً فقط من قطاع الذكاء الاصطناعي الذي يضم تقنيات إنشاء الصور ومقاطع الفيديو والموسيقى وأكواد البرمجة. وقدّمت "غوغل" منتجاً مدعوماً بالذكاء الاصطناعي لكتابة الأخبار للمؤسسات الإخبارية، حيث تعتبر الدقة أمراً بالغ الأهمية.

وعمل عالم الكمبيوتر غانيش باغلر لسنوات لدفع أنظمة الذكاء الاصطناعي، مثل "تشات جي بي تي"، نحو ابتكار وصفات لمطابخ جنوب آسيا. يمكن لعنصر واحد مختلَق أن يشكّل الفرق بين وجبة لذيذة وأخرى غير صالحة للأكل. وعندما زار الرئيس التنفيذي لـ"أوبن إيه آي"، سام التمان، الهند خاطبه باغلر قائلاً: "أعتقد أن الهلوسة في تشات جي بي تي لا تزال مقبولة، ولكن عندما تظهر وصفة تحت تأثير الهلوسة، فإنها تصبح مشكلة خطيرة". وردّ ألتمان: "أعتقد أننا سنجعل المشكلة أخف حدة. أعتقد أن الأمر سيستغرق عاماً ونصف عام أو عامين. شيء من هذا القبيل. وفي تلك المرحلة، لن يبقى حديث عن هذه المشكلة. هناك توازن بين الإبداع والدقة الكاملة، وسيحتاج النموذج إلى تعلم متى تريد أحدهما أو الآخر".

سوشيال ميديا

التحديثات الحية

لماذا يسعى ماسك لاستنساخ "وي تشات"؟

لكن بالنسبة إلى بعض الخبراء الذين درسوا التكنولوجيا، مثل مديرة مختبر اللغويات الحاسوبية في جامعة واشنطن إميلي بندر، فإن هذه التحسينات لن تكون كافية، والهلوسة مشكلة "غير قابلة للإصلاح". وقالت: "حتى إذا كان من الممكن ضبطها لتكون صحيحة في معظم الأوقات، فستظل لديها أوضاع فشل، ومن المحتمل أن تكون حالات الفشل في الحالات التي يصعب على الشخص الذي يقرأ النص ملاحظتها، لأنها أكثر غموضاً".

وقال رئيس شركة جاسبر إيه آي، شين أورليك، إن هذه الأخطاء ليست مشكلة كبيرة لشركات التسويق التي لجأت إلى الشركة للمساعدة في كتابة العروض التقديمية. وأوضح أن "الهلوسة هي في الواقع مكافأة إضافية. لدينا عملاء طوال الوقت يخبروننا كيف توصلوا إلى أفكار، وكيف ابتكر جاسبر قصصاً أو زوايا لم يفكروا بها قَطّ بأنفسهم". وقال أورليك إنه يعلم أن الهلوسة لن تُصلَح بسهولة، و"أعتقد أن عليهم حل هذه المشكلة. عليهم معالجة هذا الأمر. لذلك، لا أعرف ما إذا كانت ستكون مثالية على الإطلاق، ولكن من المحتمل أن تستمر في التحسن وتصبح أفضل بمرور الوقت".

المتفائلون بالتكنولوجيا، بمن فيهم المؤسس المشارك لشركة مايكروسوفت، بيل غيتس، يتوقعون نظرة مستقبلية وردية. وقال غيتس عبر مدونته: "أنا متفائل بأنه بمرور الوقت، يمكن تعليم نماذج الذكاء الاصطناعي التمييز بين الحقيقة والخيال".