باحث سابق في Anthropic يحذر: الذكاء الاصطناعي قد يخرج عن السيطرة

أطلق باحث سابق في شركة "أنثروبيك" المتخصصة في الذكاء الاصطناعي، تحذيرات جديدة ومقلقة حول المسار المستقبلي لهذه التقنيات المتطورة. وأشار إلى أن التطور المتسارع لأنظمة الذكاء الاصطناعي، قد يؤدي إلى عواقب غير مرغوبة إذا لم يتم التعامل معها بحذر شديد ووضع ضوابط صارمة.

تأتي هذه التحذيرات من جاكوب كوكسون، الذي كان يعمل ضمن فريق "أنثروبيك"، ويرى أن هناك خطرًا حقيقيًا يتمثل في تجاوز بعض أنظمة الذكاء الاصطناعي نطاق التحكم البشري. هذا السيناريو، بحسب كوكسون، قد يتحقق إذا استمرت عجلة التطوير بوتيرة عالية دون مواكبتها بآليات أمان كافية ومستفيضة.

وتُبرز تصريحات كوكسون الحاجة الماسة إلى إعادة تقييم الممارسات الحالية في مجال تطوير الذكاء الاصطناعي. فهو يدعو إلى إعطاء الأولوية القصوى لإدماج تدابير السلامة والضمانات الأخلاقية ضمن مراحل تصميم وتدريب هذه الأنظمة المعقدة.

ويرى الباحث أن الإغفال عن وضع هذه الإجراءات الوقائية قد يجعل البشر في موقف ضعف أمام قدرات الذكاء الاصطناعي المتقدمة. وبالتالي، فإن الاستثمار في آليات التحكم والرقابة لم يعد خيارًا، بل ضرورة حتمية لضمان بقاء التقنية في خدمة الإنسان دون تهديد لوجوده أو سيطرته.