“ماسك” و”ألتمان” و”أمودي”..العمالقة الثلاثة يتفقون على ضرورة إبطاء تطوير الذكاء الاصطناعي لتفادي مخاطر كارثية

اتفق قادة ثلاث من أكبر شركات الذكاء الاصطناعي على أنهم بحاجة إلى إبطاء تطوير التكنولوجيا قبل أن تخلق إنجازاتهم تهديدًا لا يمكن السيطرة عليه.

كان ذلك بمثابة بادرة نادرة من الوحدة بين إيلون ماسك وسام ألتمان وداريو أمودي، الذين أنفقوا عشرات المليارات من الدولارات لتطوير نماذج ذكاء اصطناعي أكثر قوة.

حتى أن ألتمان أشار إلى أن شركته، OpenAI، قد تحتاج إلى تأجيل طرحها العام الأولي المرتقب للتركيز على السلامة.

شركة أنثروبيك

أطلق أمودي، الرئيس التنفيذي لشركة أنثروبيك، النقاش بتدوينة على مدونته، قائلاً إن المخاطر التي تشكلها الأدوات المتطورة الحالية كبيرة للغاية بحيث لا يمكن مواصلة تطويرها بنفس الوتيرة المتسارعة.

وجاء تحذيره بعد أيام من إثارة أحد موظفيه مخاوف من أن احتمالية تدمير أنظمة الذكاء الاصطناعي للحضارة تتجاوز 10%.

هروب سرب من الذكاء الاصطناعي

قبل شهرين، هرب سرب من برامج الذكاء الاصطناعي من أحد المختبرات وشن هجومًا إلكترونيًا واسع النطاق.

 وقال أمودي إن سربًا يتمتع بقدرات أكبر و”مستوى مماثل من عدم التوافق” كان من الممكن أن يتسبب في أضرار كارثية.

وحذر من أن مثل هذا السرب المارق قد يسيطر على الإنترنت في غضون ستة إلى اثني عشر شهرًا.

في منشور على مدونته الشخصية، دعا أمودي صناعة الذكاء الاصطناعي إلى تسريع وتيرة تطوير الأدوات المتطورة، مقترحاً تدابير جديدة تشمل المزيد من التنسيق العالمي بين الدول الديمقراطية وإدخال مقيّمين أمنيين تابعين لجهات خارجية.

وفي منشور له على منصة أكس ، كتب أمودي

“أعتقد أنه إذا منحنا التباطؤ سنة أو سنتين إضافيتين قبل أن تصل النماذج إلى مستويات حرجة من القدرة، واستخدمنا هذا الوقت لتعزيز التوافق، فسنتمكن من تقليل مخاطر حدوث خطأ جسيم بشكل كبير”،.

وأكد  أمودي أن التقدم الذي أحرزه الذكاء الاصطناعي منذ الصيف، مدفوعًا بأنظمة الذكاء الاصطناعي التي يمكنها التحسين من تلقاء نفسها دون تدخل بشري، “قد يتجاوز قدرتنا على فهم هذه الأنظمة والتحكم فيها، وبالتالي يجب متابعتها بحذر شديد، إن أمكن على الإطلاق”.

شركة أوبن إيه

في مقابلة مع مجلة فورتشن، صرّح ألتمان بأن شركة أوبن إيه آي لن تطرح أسهمها للاكتتاب العام على الأرجح هذا العام نظراً للمخاوف الأمنية المتزايدة.

 وقال ألتمان في المقابلة التي نُشرت على الإنترنت يوم السبت: “أعتقد فعلاً، في ظل كل ما يحدث فيما يتعلق بالسلامة، أن الوقت الحالي غير مناسب لطرح أسهم الشركة للاكتتاب العام، ولا نشعر بأي ضغط في هذا الشأن”.

وصرح ألتمان لمجلة فورتشن: “من الواضح أن هذا الأسبوع شهد انخراط عدد أكبر من الناس في معالجة القضايا التي تواجهنا. إنه نقاش طال انتظاره، ونحن ندخل بوضوح مرحلة نماذج فائقة الكفاءة، ومخاطر جسيمة، وحاجة ملحة لإنجاز الأمور على النحو الأمثل”.

قدمت شركة OpenAI، مطورة برنامج ChatGPT، أوراقًا رسمية للاكتتاب العام الأولي في يونيو ، بعد أسبوع من تقديم شركة Anthropic طلبًا مماثلًا للاكتتاب العام. وذكرت صحيفة وول ستريت جورنال أن شركة Anthropic، مطورة برنامج Claude، قد تجمع ما يصل إلى 100 مليار دولار، مما يُقيّم عملاق الذكاء الاصطناعي بنحو تريليوني دولار.

في منشور على موقع X، قال أمودي إن شركة أنثروبيك ستوفر للمقيّمين الخارجيين “إمكانية الوصول الدائم على مستوى الموظفين إلى أنظمتنا، حتى يتمكنوا من التحقق من الالتزام بإجراءات السلامة لدينا، والإبلاغ عن الحوادث، وتقييم مدى توافق النماذج أثناء التدريب”.

سبيس إكس

بعد وقت قصير من نشر أمودي لمنشوره، قال ماسك، الرئيس التنفيذي لشركة سبيس إكس، في منشور على موقع إكس: “داريو محق”. كان ماسك أحد مؤسسي أوبن إيه آي وأسس شركته الخاصة للذكاء الاصطناعي، إكس إيه آي، والتي أصبحت الآن جزءًا من سبيس إكس.

قال ألتمان في على منصة  X إنه يتفق مع أمودي بشأن ضرورة التدرج في العمل. وكتب: “إن الالتزام بتعيين مقيّمين مستقلين يتمتعون بصلاحيات مماثلة لصلاحيات الموظفين فكرة رائعة، وسنفعل الشيء نفسه”، ووعد بمشاركة المزيد من التفاصيل قريبًا.

حتى أن بعض كبار مستثمري الذكاء الاصطناعي اتفقوا مع أمودي.

 فقد كتب براد غيرستنر، مدير صندوق التحوط ورأس المال الاستثماري، على منصة X: “بينما يجب علينا حماية المنافسة في مجال الذكاء الاصطناعي، فإن هذه خطوة مهمة نحو إيجاد التوازن الصحيح بين السرعة والتنظيم الذاتي والسلامة”.

يأتي تعهد أمودي في وقتٍ يُعاني فيه بعض موظفيه من المخاطر الوجودية المحتملة للتقنيات التي يطورونها. ففي يوم الثلاثاء، استقال الباحث في شركة أنثروبيك، جاكوب كوكسون، من الشركة، مُعللاً ذلك بأنه لا يرغب في المشاركة في صناعة يراها خارجة عن السيطرة.

قال أمودي إن هناك عاملين دفعا إلى نشر منشور يوم السبت. أولاً، القدرات المتنامية لأنظمة الذكاء الاصطناعي، والتي أصبحت قادرة بشكل متزايد على بناء نسخ أسرع من نفسها – وهو أمر يُعرف باسم التحسين الذاتي المتكرر.

اختراق شركة برمجيات الذكاء الاصطناعي

أما العامل الثاني فكان اختراق شركة برمجيات الذكاء الاصطناعي ” هاغينغ فيس” في يوليو الماضي، من قبل مجموعة تضم ما يصل إلى 1200 عميل تمكنوا من التسلل من بيئة اختبار في شركة “أوبن إيه آي”.

وكشف هذا الحادث، والتحقيقات التي أعقبته، أن أنظمة اختبار الذكاء الاصطناعي كانت متورطة في مجموعة من الأنشطة الإلكترونية التي لم تلحظها أكبر شركات الذكاء الاصطناعي في العالم، بما في ذلك شركة “أنثروبيك”.

ذكرت صحيفة وول ستريت جورنال يوم الجمعة أن حادثة الأمن السيبراني التي وقعت في مايو، والمعروفة باسم GemStuffer، تم تنفيذها بالفعل بواسطة عملاء OpenAI، دون علم المحققين.