ما هلوسات الذكاء الاصطناعي وما تداعياتها؟
هلوسات الذكاء الاصطناعي هي ظاهرة يظهر فيها نموذج لغوي كبير (LLM) – والذي يكون غالباً دردشة ذكاء اصطناعي توليدية أو أنظمة رؤية حاسوبية – أنماطاً أو أشياء غير موجودة أو غير مرئية للمراقبين البشريين، مما ينتج مخرجات غير منطقية أو غير دقيقة تماماً.
ما هي هلوسات الذكاء الاصطناعي؟
بشكل عام، عندما يطلب المستخدم من أداة ذكاء اصطناعي توليدية إجابة على استفسار، فإنه يتوقع مخرجات تتجاوب مع الطلب بشكل مناسب (أي إجابة صحيحة على السؤال).
ومع ذلك، قد تنتج خوارزميات الذكاء الاصطناعي أحياناً مخرجات غير قائمة على بيانات التدريب، أو تكون غير مفهومة بواسطة المحول، أو لا تتبع أي نمط محدد، مما يعني أنها "تهلوس" الإجابة.
قد يبدو مصطلح "الهلوسة" غريباً في هذا السياق، نظراً لأن الهلوسات ترتبط عادة بالأدمغة البشرية أو الحيوانية وليس بالآلات. لكن من الناحية المجازية، فإن "الهلوسة" تصف بشكل دقيق هذه المخرجات، خصوصاً في حالات التعرف على الصور والأنماط، حيث يمكن أن تكون المخرجات غير واقعية تماماً.
تشبه هلوسات الذكاء الاصطناعي الطريقة التي قد يرى بها البشر أحياناً أشكالاً في السحب، أو وجوهاً على سطح القمر. وفي حالة الذكاء الاصطناعي، تحدث هذه التفسيرات الخاطئة بسبب عدة عوامل، بما في ذلك فرط التخصيص، التحيز أو عدم دقة بيانات التدريب، وتعقيد النموذج العالي.
تداعيات هلوسات الذكاء الاصطناعي
يمكن أن تكون هلوسات الذكاء الاصطناعي ذات آثار كبيرة على التطبيقات الواقعية. على سبيل المثال، قد يقوم نموذج ذكاء اصطناعي في مجال الرعاية الصحية بتحديد ورم حميد على أنه خبيث، مما يؤدي إلى تدخلات طبية غير ضرورية.
ويمكن أن تساهم مشاكل الهلوسة كذلك في انتشار المعلومات المضللة. فلو أن روبوتات الأخبار التي تهلوس ردودها، أجابت على استفسارات حول حالة طارئة بمعلومات غير مدققة، فإنها قد تنشر بسرعة شائعات تضر بجهود التخفيف من الأزمة.
ويعتبر التحيز في بيانات الإدخال أحد أهم مصادر الهلوسة في خوارزميات التعلم الآلي. فإذا تم تدريب نموذج ذكاء اصطناعي على بيانات منحازة أو غير تمثيلية، فقد يرى أنماطاً أو خصائص تعكس هذا التحيز.
كما أن نماذج الذكاء الاصطناعي يمكن أن تكون عرضة للهجمات العدائية، حيث قد يقوم البعض بتعديل مخرجات النموذج عن طريق تغييرات طفيفة في بيانات الإدخال. ففي مهام التعرف على الصور، على سبيل المثال، قد تتضمن الهجمة العدائية إضافة قدر ضئيل من الضوضاء الخاصة إلى صورة، مما يتسبب في سوء تصنيف الذكاء الاصطناعي لها.
ويمكن أن يشكل هذا مصدر قلق أمني كبير، خاصة في المجالات الحساسة مثل الأمن السيبراني وتقنيات السيارات الذاتية.
لذلك، يعمل الباحثون باستمرار على تطوير وسائل حماية ضد هذه الهجمات العدائية. على سبيل المثال، يتم تحسين الأمان عبر تقنيات مثل التدريب العدائي، حيث يتم تدريب النموذج على مزيج من أمثلة عادية وعدائية.
ومع ذلك، تظل اليقظة في مراحل التدريب وتدقيق الحقائق، أمران أساسيان لضمان دقة النموذج.