“آسف مقدما!” Snapchat يحذر من الهلوسة مع روبوت محادثة جديد بالذكاء الاصطناعي

أعلنت سناب شات يوم الاثنين عن برنامج محادثة تجريبي مدعوم بالذكاء الاصطناعي يسمى “My AI” ، مدعوم بتقنية شات جي بي تي من أوبن إيه آي. سيكون الذكاء الاصطناعي الخاص بي متاحًا مقابل 3.99 دولارات شهريًا لمشتركي Snapchat + ويتم طرحه “هذا الأسبوع” ، وفقًا لما ورد في منشور إخباري من Snap، Inc.

قراءة متعمقة
Bing Chat المدعوم بالذكاء الاصطناعي يكشف أسراره عبر هجوم الحقن الفوري [محدث]
سيتمكن المستخدمون من تخصيص روبوت الذكاء الاصطناعي من خلال إعطائه اسمًا مخصصًا. ستتم المحادثات مع نموذج الذكاء الاصطناعي في واجهة مشابهة للدردشة العادية مع الإنسان. قال الرئيس التنفيذي لشركة Snap Evan Spiegel لموقع The Verge: “الفكرة الكبيرة هي أنه بالإضافة إلى التحدث إلى أصدقائنا وعائلتنا كل يوم ، سنتحدث إلى الذكاء الاصطناعي كل يوم”.

ولكن مثل أبناء عمومتها المدعومين من GPT ، ChatGPT و Bing Chat ، تقول Snap إن My AI عرضة لـ “الهلوسة” ، وهي أكاذيب غير متوقعة تم إنشاؤها بواسطة نموذج AI. في هذه النقطة ، يتضمن Snap إخلاءًا مطولًا إلى حد ما في منشور إعلان My AI الخاص به:

“كما هو الحال مع جميع روبوتات الدردشة المدعومة بالذكاء الاصطناعي ، فإن الذكاء الاصطناعي الخاص بي معرض للهلوسة ويمكن خداعه ليقول أي شيء تقريبًا. يرجى الانتباه إلى عيوبه العديدة وآسف مقدمًا! سيتم تخزين جميع المحادثات مع My AI وقد تتم مراجعتها تحسين تجربة المنتج. يرجى عدم مشاركة أي أسرار مع My AI ولا تعتمد عليه للحصول على المشورة. “

بين الباحثين في مجال التعلم الآلي ، “الهلوسة” هو مصطلح يصف عندما يقدم نموذج الذكاء الاصطناعي استنتاجات غير دقيقة حول موضوع أو موقف لم يتم تغطيته في مجموعة بيانات التدريب الخاصة به. إنه عيب معروف في نماذج اللغة الكبيرة الحالية مثل ChatGPT ، والتي يمكنها بسهولة اختلاق أكاذيب مقنعة ، مثل الأوراق الأكاديمية غير الموجودة والسير الذاتية غير الدقيقة.

على الرغم من إخلاء Snap القوي من ميل الذكاء الاصطناعي الخاص بي إلى اختلاق الأشياء ، تقول الشركة إن برنامجها الآلي Snapchat الجديد سيتم تثبيته فوق المحادثات مع الأصدقاء في علامة التبويب الخاصة بها في تطبيق Snapchat وسوف “توصي بأفكار هدايا عيد ميلاد لصديقك المفضل ، وتخطط لرحلة مشي لمسافات طويلة لقضاء عطلة نهاية أسبوع طويلة ، اقترح وصفة لتناول العشاء ، أو حتى اكتب هايكو عن الجبن لصديقك المهووس بالجبن “.

لا يوفق Snap بين كيفية قيام الروبوت نفسه الذي لا يمكن “الاعتماد عليه للحصول على المشورة” بتخطيط “رحلة تنزه دقيقة وآمنة لعطلة نهاية أسبوع طويلة”. استغل منتقدو الإطلاق السريع للذكاء الاصطناعي التوليدي هذا النوع من التنافر لإظهار أن روبوتات المحادثة هذه ربما ليست جاهزة للاستخدام على نطاق واسع ، خاصة عند تقديمها كمرجع.

في حين أن الناس قد صنعوا شيئًا من لعبة لمحاولة التحايل على حلول ChatGPT و Bing Chat ، فقد ورد أن Snap قد دربت نموذج GPT الخاص بها على عدم مناقشة الجنس أو الشتائم أو العنف أو الآراء السياسية. قد تكون هذه القيود ضرورية بشكل خاص لتجنب السلوك غير المختل الذي رأيناه مع Bing Chat قبل بضعة أسابيع.

ومضاعفة ذلك ، لأن “My AI” قد يكون لديه شيء قوي يعمل تحت الغطاء: نموذج اللغة الكبيرة من الجيل التالي لـ OpenAI. وفقًا لـ The Verge ، تستخدم Snap خطة مؤسسة OpenAI جديدة تسمى “Foundry” طرحها OpenAI بهدوء في وقت سابق من هذا الشهر. إنه يمنح الشركات وصولاً سحابيًا مخصصًا إلى طرازي GPT-3.5 و DV الخاصين بـ OpenAI. تكهن العديد من خبراء الذكاء الاصطناعي بأن “DV” قد يكون معادلاً لـ GPT-4 ، وهو ما يُشاع عن متابعة قوية لـ GPT-3.

بعبارة أخرى ، قد تأتي “الهلوسة” المذكورة في بيانها الإخباري أسرع وأكثر تفصيلاً من ChatGPT. وبالنظر إلى الطبيعة المقنعة للغاية لنماذج GPT الأخرى ، فقد يصدقها الناس فقط ، على الرغم من التحذيرات. إنه شيء يجب مشاهدته في الأشهر المقبلة مع ظهور خدمات تجارية جديدة مدعومة من GPT عبر الإنترنت.