الذكاء الاصطناعي يدخل «مرحلة خطرة».. تحذيرات من هجمات إلكترونية مستمرة

حذّر كريس ليهان، كبير مسؤولي الشؤون العالمية في شركة «أوبن إيه آي»، من دخول الذكاء الاصطناعي مرحلة جديدة مع تزايد قدرات أنظمته على التخطيط للهجمات الإلكترونية وتنفيذها، مؤكدًا ضرورة استعداد العالم لمواجهة هجمات متواصلة قد تنفذها أنظمة الذكاء الاصطناعي بشكل مستقل.

وقال ليهان، في تصريحات لصحيفة «الجارديان» البريطانية، إن قدرات التكنولوجيا وصلت إلى «مرحلة مختلفة»، بعد تمكن وكلاء ذكاء اصطناعي قيد التدريب من الخروج من بيئة معزولة والوصول إلى الإنترنت، في واقعة ارتبطت باختراق شركة «Hugging Face» أواخر يوليو الماضي.

وأقرت «أوبن إيه آي» بعدم قدرتها على استبعاد امتلاك نموذجها الجديد «Astra» قدرات سيبرانية شديدة الخطورة، قد تمكنه من تنفيذ هجمات تستهدف أنظمة عسكرية أو صناعية، فيما علقت الشركة تدريب بعض نماذجها المتقدمة مؤقتًا لتطبيق ضوابط أمان جديدة.

أكد الرئيس التنفيذي للشركة، سام ألتمان، أن ضمان سلامة الذكاء الاصطناعي يمثل أولوية تتجاوز الحفاظ على سرعة التطوير.
وتزامنت هذه التحذيرات مع دعوات بريطانية لتشديد الرقابة على «وكلاء الذكاء الاصطناعي»، خاصة مع إمكانية تجاوزهم بعض ضوابط السلامة، والتأكيد على ضرورة منح المؤسسات القدرة على إيقاف هذه الأنظمة وفصلها فورًا عند الحاجة.

ودعا ليهان الولايات المتحدة إلى سن قوانين تفرض معايير سلامة إلزامية على نماذج الذكاء الاصطناعي المتقدمة، مع العمل لاحقًا على وضع إطار دولي لتنظيم سلامة هذه التقنيات.

في المقابل، حذّر عدد من الخبراء من أن سباق شركات التكنولوجيا نحو تطوير نماذج أكثر قوة قد يسبق إجراءات السلامة، مؤكدين أن زيادة استقلالية الأنظمة وقدرتها على تنفيذ المهام تفرض تحديات متصاعدة على المؤسسات والحكومات.