قبل 4 أيام من الإطاحة بسام ألتمان، الشريك المؤسس والرئيس التنفيذي لشركة “أوبن إيه آي”، كشفت وكالة “رويترز” نقلا عن شخصين مطلعين على الأمر، أن العديد من الباحثين الموظفين أرسلوا رسالة إلى مجلس الإدارة تحذرهم من اكتشاف قوي للذكاء الاصطناعي قالوا إنه “قد يهدد البشرية”.
وقال المصدران إن الرسالة التي لم يتم الإبلاغ عنها سابقا وخوارزمية الذكاء الاصطناعي كانتا تطورا رئيسيا قبل إطاحة مجلس الإدارة بألتمان، الطفل المدلل للذكاء الاصطناعي التوليدي. وقبل عودته المظفرة، في وقت متأخر من الثلاثاء، هدد أكثر من 700 موظف بالاستقالة والانضمام إلى شركة مايكروسوفت تضامنا مع مديرهم المطرود.
وأشار المصدران إلى أن هذه الرسالة تعتبر أحد العوامل من بين قائمة أطول من التظلمات المقدمة من مجلس الإدارة والتي أدت إلى إقالة ألتمان.
ولم تتمكن رويترز من مراجعة نسخة من الرسالة. ولم يستجب الباحثون الذين كتبوا الرسالة على الفور لطلبات التعليق.
ووفقًا لأحد المصادر، تحدثت ميرا موراتي، المديرة التنفيذية، الأربعاء، للموظفين عن المشروع، المسمى “كيو ستار” (Q*)، وقالت إنه تم إرسال خطاب إلى مجلس الإدارة قبل أحداث نهاية هذا الأسبوع.
وقال أحد الأشخاص لـ”رويترز” إن الشركة المصنعة لـ”تشات جي بي تي” أحرزت تقدما في مشروع “كيو ستار” والذي يعتقد البعض داخليا أنه يمكن أن يمثل تقدما في بحث الشركة الناشئة عن الذكاء الفائق، المعروف أيضا باسم الذكاء العام الاصطناعي (AGI) .
ويُعرّف “أوبن إيه آي” الذكاء الاصطناعي العام بأنه أنظمة ذكاء اصطناعي أكثر ذكاءً من البشر.
ونظرًا للموارد الحاسوبية الهائلة، كان النموذج الجديد قادرا على حل بعض المشكلات الرياضية، حسبما قال الشخص الذي طلب عدم الكشف عن هويته.
وقال المصدر إنه رغم أداء المعادلات فقط على مستوى طلاب المدارس الابتدائية فقط، فإن التفوق في مثل هذه الاختبارات جعل الباحثين متفائلين للغاية بشأن نجاح “كيو ستار” في المستقبل.
ولم تتمكن رويترز من التحقق بشكل مستقل من قدرات “كيو ستار” التي ادعاها الباحثون.
وحاولت “رويترز” شرح الذكاء الفائق، موضحة أن الباحثين يعتبرون الرياضيات بمثابة حدود لتطوير الذكاء الاصطناعي التوليدي.
وفي الوقت الحالي، يعد الذكاء الاصطناعي التوليدي جيدا في الكتابة وترجمة اللغة من خلال التنبؤ إحصائيا بالكلمة التالية، ويمكن أن تختلف الإجابات على نفس السؤال بشكل كبير. لكن التغلب على القدرة على حساب المعادلات الرياضية، حيث لا توجد سوى إجابة واحدة صحيحة، يعني أن الذكاء الاصطناعي سيتمتع بقدرات تفكير أكبر تشبه الذكاء البشري. ويعتقد باحثو الذكاء الاصطناعي أن هذا يمكن تطبيقه على الأبحاث العلمية الجديدة.
وعلى عكس الآلة الحاسبة التي يمكنها حل عدد محدود من العمليات، يمكن للذكاء الاصطناعي العام التعميم والتعلم والفهم.
وفي رسالتهم إلى مجلس الإدارة، أشار الباحثون إلى براعة الذكاء الاصطناعي والخطر المحتمل، حسبما قالت المصادر دون تحديد المخاوف المتعلقة بالسلامة على وجه التحديد المذكورة في الرسالة.
ولقد كان هناك نقاش منذ فترة طويلة بين علماء الكمبيوتر حول الخطر الذي تشكله الآلات فائقة الذكاء، على سبيل المثال، إذا قرروا أن تدمير البشرية كان في مصلحتهم.
وعلى هذه الخلفية، قاد ألتمان الجهود الرامية إلى جعل “تشات جي بي تي” واحدا من أسرع التطبيقات البرمجية نموًا في التاريخ وجذب الاستثمار وموارد الحوسبة اللازمة من مايكروسوفت للاقتراب من الذكاء الفائق، أو “إيه جي آي”
مصادر: باحثو OpenAI حذروا من اكتشاف ذكاء اصطناعي قد يهدد البشرية
قال مصدران مطلعان لرويترز إنه قبل أزمة سام ألتمان ومغادرته منصبه مؤقتاً كرئيس تنفيذي لشركة “أوبن إيه آي”، كتب عدد من الباحثين رسالة إلى مجلس الإدارة يحذرون فيها من اكتشاف قوي للذكاء الاصطناعي، قالوا إنه قد يهدد البشرية.
وقال المصدران إن الرسالة، التي لم يتم الإبلاغ عنها سابقاً، وخوارزمية الذكاء الاصطناعي كانت تطورات رئيسية قبل إطاحة مجلس الإدارة بألتمان، الذي ارتبط اسمه بمنظومة الذكاء الاصطناعي التوليدي.
وأشارت المصادر إلى الرسالة كعامل واحد من بين قائمة أطول من المظالم التي قدمها مجلس الإدارة، والتي أدت إلى إقالة ألتمان، من بينها المخاوف بشأن التسويق المسبق قبل فهم العواقب.
ولم يتسن لرويترز الاطلاع على نسخة من الرسالة. ولم يرد الموظفون الذين كتبوا الرسالة على طلبات للتعليق.
وقال أحد الأشخاص إنه بعد أن اتصلت به رويترز، أقرت “أوبن إيه آي”، التي رفضت التعليق، في رسالة داخلية للموظفين بمشروع يسمى “Q *”، ورسالة إلى مجلس الإدارة قبل أحداث نهاية الأسبوع.
طفرة في الذكاء الاصطناعي
ييعتقد البعض في OpenAI أن “Q *” (تنطق Q-Star) يمكن أن تكون طفرة في بحث الشركة الناشئة عما يعرف باسم الذكاء العام الاصطناعي (AGI)، كما قال أحد الأشخاص لرويترز.
ويعرف OpenAI الذكاء الاصطناعي العام بأنه أنظمة مستقلة تتفوق على البشر في معظم المهام ذات القيمة الاقتصادية.
وبالنظر إلى موارد الحوسبة الهائلة، كان النموذج الجديد قادراً على حل مشكلات رياضية محددة، بحسب الشخص الذي تحدث بشرط عدم الكشف عن هويته؛ لأنه غير مخول بالتحدث نيابة عن الشركة.
وقال المصدر إنه على الرغم من الحديث يجري عن أداء الرياضيات فقط بمستوى طلاب المدارس الابتدائية، إلا أن اجتياز مثل هذه الاختبارات جعل الباحثين متفائلين للغاية بشأن نجاح Q * في المستقبل.
ويعتبر الباحثون الرياضيات بمثابة حدود لتطوير الذكاء الاصطناعي التوليدي. وينبغي الانتباه إلى أن الذكاء الاصطناعي التوليدي، في الوقت الحالي، يعد جيداً في الكتابة وترجمة اللغة من خلال التنبؤ إحصائياً بالكلمة التالية، ويمكن أن تختلف الإجابات على نفس السؤال بشكل كبير.
لكن الوصول إلى القدرة على أداء مسائل الرياضيات – حيث لا توجد سوى إجابة واحدة صحيحة – يعني أن الذكاء الاصطناعي سيتمتع بقدرات تفكير أكبر تشبه الذكاء البشري.
ويعتقد باحثو الذكاء الاصطناعي أن هذا يمكن تطبيقه على الأبحاث العلمية الجديدة.
وعلى عكس الآلة الحاسبة التي يمكنها حل عدد محدود من العمليات الحسابية، يمكن للذكاء العام الاصطناعي AGI التعميم والتعلم والفهم.
خطر الذكاء الاصطناعي
في رسالتهم إلى مجلس الإدارة، أشار الباحثون إلى براعة الذكاء الاصطناعي وخطره المحتمل، حسبما قالت المصادر دون تحديد مخاوف السلامة الدقيقة المذكورة في الرسالة.
ولطالما كان هناك نقاش بين علماء الكمبيوتر حول الخطر الذي تشكله الآلات عالية الذكاء، على سبيل المثال إذا قررت هذه الآلات أن من مصلحتها تدمير البشرية