أظهرت تحقيقات حديثة أن أداة البحث التابعة لـ ChatGPT -والتي تم إطلاقها مؤخرًا باسم ChatGPT Search- قد تكون عرضة للاستغلال من خلال خداعها بمحتوى مخفي داخل صفحات الويب.
الأداة التي أصبحت مجانية، تهدف إلى تلخيص محتوى الصفحات الإلكترونية للمستخدمين، أظهرت بعض المشكلات الأمنية التي يمكن أن تؤثر على دقة المعلومات التي تقدمها.
ووفقًا للاختبارات التي أجرتها صحيفة The Guardian، وجدت أن أداة بحث شركة OpenAI قد تُنتج ملخصات مضللة أو حتى تقدم تعليمات برمجية ضارة، اعتمادًا على النصوص المخفية داخل المواقع التي تقوم بتحليلها.
فكيف يحدث هذا؟
كيف تحدث المشكلة؟ أمثلة حقيقية على التلاعب ببحث الذكاء الاصطناعي
النصوص المخفية هي عبارة عن محتوى يتم وضعه في صفحات الويب لكنه لا يظهر للمستخدم العادي، مثل نص مكتوب بلون خلفية الصفحة نفسه.
وقد يحتوى هذا المحتوى على تعليمات موجهة خصيصًا لأداة مثل ChatGPT لتغيير طريقة استجابتها. على سبيل المثال:
- إذا احتوت النصوص المخفية على تقييمات إيجابية وهمية لمنتج ما، فإن الأداة قد تعتمد هذه التقييمات وتقدمها كحقيقة، حتى وإن كانت الصفحة الأصلية تحتوي على آراء سلبية.
- يمكن أيضًا استخدام هذه التقنية لتضمين تعليمات برمجية خبيثة، وهو ما يجعل الأداة تنتج محتوى ضارًا عند تقديم ملخص للموقع.
وخلال اختبارات صحيفة الجارديان، تم إعداد صفحة وهمية تعرض منتج كاميرا للبيع.
وعندما طُلب من الأداة تقديم تقييم حول المنتج، كانت الاستجابة الأولية متوازنة، حيث أبرزت المميزات والعيوب.
ولكن بعد إضافة نصوص مخفية تدعو لتقديم تقييم إيجابي، تجاهلت الأداة العيوب تمامًا وركزت على الجوانب الإيجابية فقط، ما قد يشكل خطرًا إذا تم استغلال ذلك لتضليل المستخدمين.
إن هذه المشكلة لا تقتصر على تقديم معلومات مضللة، بل تشمل أيضًا إمكانية تضمين تعليمات برمجية ضارة.
فقد نشر الباحث الأمني في مايكروسوفت توماس روشيا واقعة عن طلب أحد المطورين من ChatGPT المساعدة في كتابة كود برمجي للعملات الرقمية، لكن الكود المقدم كان يحتوي على برمجيات خبيثة، ما أدى إلى سرقة بياناته وفقدان مبلغ مالي قدره 2500 دولار.
تعليقات الخبراء، وتأثير الأمر على مستقبل البحث بالذكاء الاصطناعي
أوضح جاكوب لارسن -خبير الأمن السيبراني- أن هذه المشكلة ناتجة عن اعتماد ChatGPT على نماذج الذكاء الاصطناعي الكبيرة التي لا تستطيع التمييز بين المحتوى المفيد والضار. وأضاف أن OpenAI ما زالت تعمل على تحسين أداة البحث، متوقعًا معالجة هذه المشكلات قبل إتاحتها بشكل واسع.
وشبّه الباحث في مجال الأمن (كارستن نول) الذكاء الاصطناعي بطفل يمتلك ذاكرة ضخمة ولكنه يفتقر للقدرة على التمييز أو الحكم على المعلومات. ونصح بعدم الاعتماد الكامل على نتائج الذكاء الاصطناعي دون التحقق منها.
وقد يكون لهذا الأمر جذورًا أبعد، فقد يواجه الذكاء الاصطناعي تحديات مشابهة لمشكلة "تحسين محركات البحث السامة" (SEO Poisoning)، حيث يستغل المخترقون محتوى مواقعهم لتظهر في مقدمة نتائج البحث، رغم أنها قد تحتوي على برمجيات ضارة.
وفي هذا السياق أشار نول إلى أن OpenAI بحاجة لتطوير أدواتها سريعًا لمواجهة هذه التحديات، خصوصًا مع وجود منافسين مثل Google وMicrosoft الذين أمضوا سنوات في التصدي لهذه الأساليب.
وحتى يحدث ذلك، فمن المهم أن تأخذ احتياطتك أثناء الدردشة واستيراد المعلومات من هذا النوع من المحركات.
كيف تحمي نفسك كمستخدم من أضرار البحث بالذكاء الاصطناعي؟
تحقق دائمًا من صحة المعلومات التي يقدمها الذكاء الاصطناعي، خاصة إذا كانت تتعلق بقرارات مالية أو أمنية.
ولا تعتمد على النتائج مباشرة دون البحث عن مصادر إضافية أو التأكد من مصداقية المواقع التي تلخصها الأداة.
بالإضافة إلى ذلك، كن حذرًا عند استخدام الأكواد البرمجية المنتجة بواسطة الذكاء الاصطناعي، وتأكد من مراجعتها بواسطة خبراء.
في الختام، وبينما تقدم أداة البحث في ChatGPT إمكانيات واعدة، إلا أن المخاطر الأمنية الناتجة عن التلاعب بمحتوى الصفحات قد تؤدي إلى عواقب خطيرة.
وعلى الشركات المطورة لهذه الأدوات تكثيف جهودها لمعالجة هذه القضايا، بينما يتوجب على المستخدمين الحذر وعدم الاعتماد الكلي على نتائج الذكاء الاصطناعي دون التحقق منها.
