تحذيرات من أخطاء الذكاء الاصطناعي: تهديدات للأمن السيبراني

حذر خبراء الأمن السيبراني من زيادة مقلقة في الأخطاء التي تنتجها تطبيقات الذكاء الاصطناعي التوليدي، مشيرين إلى أن هذه الأخطاء قد تتسبب في تأثيرات سلبية متعددة على الأمان الرقمي والمعلوماتي.

روبوتات الدردشة الذكية: أدوات للمساعدة أم مدخل للبرمجيات الضارة؟

وبحسب ما ذكرته تقارير تقنية، فقد لاحظ الخبراء أن روبوتات الدردشة التي تعتمد على الذكاء الاصطناعي التوليدي، ترتكب أخطاء كبيرة وغير مرغوب فيها، لافتة إلى أنه تم رصد هذه الأخطاء في برمجيات مختلفة، خاصة تلك المعتمدة على المصادر المفتوحة.

وقال الخبراء إن البرمجيات الخبيثة أصبحت تستغل خوارزميات الذكاء الاصطناعي، خاصة تلك المستمدة من نماذج لغوية واسعة، مثل LLM.

وأشاروا إلى أن هذا الاستخدام يجعل هذه البرمجيات تبدو للمستخدمين وكأنها برامج شرعية، لكنها تخفي بداخلها تهديدات خطيرة تعرض خصوصية المستخدمين للخطر بطرق غير مسبوقة.

وألقت التقارير الضوء كذلك على قضية أخرى ذات أهمية كبيرة، والتي تتعلق بانتشار روبوتات الدردشة التي تعتمد على الذكاء الاصطناعي التوليدي، مشيرة إلى أن هذه الأدوات جعلت من السهل إنتاج محتويات متنوعة.

ونوهت إلى أنه مع ذلك، فقد ترتب على هذا الانتشار ما وصفته بأنه تلوث معلوماتي، موضحة أنه انتشرت معلومات غير دقيقة ومضللة في الصحافة ووسائل الإعلام، مما أدى إلى خلق فوضى في عمليات البحث على الإنترنت، وبالتالي انعكاس ذلك على وسائل التواصل الاجتماعي.

وأكد الخبراء أن هذه التحديات تتطلب اتخاذ إجراءات أكثر حزماً، مثل تحسين خوارزميات الكشف عن البرمجيات الضارة، وتعزيز التحقق من المعلومات المنشورة عبر الإنترنت.

كما دعوا إلى توعية المستخدمين بالمخاطر المتزايدة الناجمة عن الاعتماد الكبير على نماذج الذكاء الاصطناعي التوليدي دون ضوابط صارمة.

وأضافت التقارير أنه في ظل هذا الوضع، يصبح من الضروري التعامل بحذر مع التطبيقات الذكية التي تعتمد على الذكاء الاصطناعي، خاصة تلك المستخدمة على نطاق واسع، وذلك لضمان حماية الخصوصية والمعلومات الشخصية من التهديدات السيبرانية المتزايدة.