طورت شركة غوغل أداة جديدة تُعرف باسم”SynthID” ، مصممة خصيصًا للكشف عن النصوص المكتوبة بشريًا وتمييزها عن النصوص المكتوبة بواسطة الذكاء الاصطناعي، وأتاحت الشركة نسخة مفتوحة من الأداة لكافة المستخدمين.
وتعتبر الأداة الجديدة “SynthID Text”، جزء من مجموعة أكبر من أدوات العلامات المائية لمخرجات الذكاء الاصطناعي التوليدية.
ويمكن أن يساعد نظام العلامات المائية هذا في منع إساءة استخدام روبوتات الدردشة الخاصة بالذكاء الاصطناعي في نشر المعلومات الخاطئة والمضللة، ناهيك عن الغش في المدارس وأماكن العمل.
وقال نائب رئيس قسم الأبحاث في ديب مايند، بوشميت كوهلي: “في حين أن SynthID ليس حلاً سحريًا لتحديد المحتوى المنشأ بواسطة الذكاء الاصطناعي، إلا أنه لبنة مهمة لتطوير أدوات تعريف أكثر موثوقية للذكاء الاصطناعي”.
وأعرب باحثون مستقلون عن تفاؤل مماثل، وقال الخبير في مجال الذكاء الاصطناعي في جامعة تكساس في أوستن، سكوت آرنسون، “آمل أن تحذو شركات نماذج اللغات الكبيرة الأخرى، بما في ذلكOpenAI وAnthropic، حذو DeepMind في هذا الشأن”.
وكانت عملاقة التكنولوجيا الأمريكية قد كشفت النقاب عن علامة مائية للصور العام الماضي، ومنذ ذلك الحين طرحت واحدة لمقاطع الفيديو التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
وفي أيار الماضي، أعلنت الشركة أنها تطبق SynthID على برنامجها الذكي “Gemini”، وعلى روبوتات الدردشة عبر الإنترنت وجعلتها متاحة مجانًا على Hugging Face، وهو مستودع مفتوح لمجموعات ونماذج بيانات الذكاء الاصطناعي.
ونشرت الشركة ورقة بحثية في مجلة “نيتشر”، توضح كيف تفوقت SynthID عمومًا على تقنيات العلامات المائية المماثلة للذكاء الاصطناعي للنص.
وتضمنت المقارنة تقييم مدى سهولة اكتشاف الاستجابات من مختلف نماذج الذكاء الاصطناعي ذات العلامات المائية.
وتعمل أداة SynthID عن طريق إضافة علامة مائية غير مرئية مباشرة إلى النص عندما يتم إنشاؤه بواسطة نموذج الذكاء الاصطناعي.
ووجد فريق Google DeepMind أن استخدام علامة SynthID المائية لا يضر بجودة أو دقة أو إبداع أو سرعة النص الذي تم إنشاؤه؛ وتم استخلاص هذا الاستنتاج من تجربة ضخمة لأداء SynthID بعد نشر العلامة المائية في مخرجات Gemini واستخدامها من قِبَل ملايين الأشخاص.
سيدة أميركية تتهم روبوت دردشة بدفع ابنها إلى الانتحار