أداة ذكية من أوبن إيه آي تثير مخاوف في القطاع الطبي

اكتشف مجموعة من الباحثين ما أطلقوا عليه الهلوسات القاتلة، في إحدى أدوات الذكاء الاصطناعي التي طورتها شركة أوبن إيه آي، واستخدمت على نطاق واسع في المستشفيات.

أداة Whisper من أوبن إيه آي تحت المجهر: هل تشكل خطراً على سلامة المرضى؟

وأظهرت الدراسة أن أداة النسخ الذكية Whisper، التي تهدف إلى تحويل الصوت إلى نص، قد تعاني من بعض القصور الذي يدفعها أحياناً إلى اختلاق نصوص غير دقيقة لم تذكر من الأساس، مما قد يؤدي إلى اتخاذ إجراءات طبية قد تشكل خطراً على المرضى.

وبحسب ما ذكرته تقارير تقنية، كانت شركة أوبن إيه آي قد أشادت بقدرات أداة Whisper، مشيرة إلى أنها تمتاز بدرجة من الدقة تقارب مستوى الإنسان.

ومع ذلك، فقد وجد الباحثون أن الأداة تقوم في بعض الحالات بنسج أجزاء أو جملاً كاملة لم ترد بالفعل، وذلك بناء على مقابلات أجروها مع مجموعة من المهندسين والمطورين والباحثين في مجال البرمجيات.

وقال الباحثون إنه في واحدة من التجارب التي أجريت على هذه الأداة، اكتشفوا أن 8 من كل 10 نسخ صوتية قد احتوت على هلوسات، مما دفعهم لمحاولة تحسين النموذج.

وأوضح الخبراء أن هذه الهلوسات، كما تعرف في مجال الذكاء الاصطناعي، قد تشمل تعليقات عنصرية، خطاباً عنيفاً، بل وحتى معلومات طبية غير صحيحة.

وأشاروا إلى أن هذا النوع من الأخطاء قد يكون مثيراً للقلق، نظراً لأن أداة Whisper تستخدم في العديد من الصناعات عالمياً، حيث تتولى الأداة الذكية مهام مثل ترجمة ونسخ المقابلات، وإنشاء النصوص والترجمات لمقاطع الفيديو.

وأضاف الخبراء أن هذه الأخطاء قد تكون لها عواقب وخيمة حقاً، خاصة في البيئة الطبية، مشددين على أهمية توفير مستوى عال من الدقة والثقة في مثل هذه الأدوات، لتجنب التشخيصات الخاطئة.

ولفتت التقارير إلى تزايد القلق في المجال الطبي، حيث تندفع بعض المراكز لاستخدام هذه الأداة لنسخ استشارات المرضى، رغم تحذيرات شركة أوبن إيه آي من عدم استخدامها في المجالات عالية الخطورة.