أعلنت شركة OpenAI عن حظر عدد من الحسابات التي تم الاشتباه في استخدامها لأغراض احتيالية.
يأتي ذلك بعد تقرير كشف عن اتجاه بعض الجهات لاستغلال تقنيات الذكاء الاصطناعي، بما في ذلك ChatGPT، في عمليات تزوير وتضليل إلكتروني.
وكشفت الشركة أن المحتالين لجأوا إلى أدوات الذكاء الاصطناعي لإنشاء شبكات احتيالية واسعة. تضمنت هذه الشبكات نشر أخبار زائفة، وتزوير السير الذاتية، واستخدام حسابات مزيفة لاستهداف شركات غربية.
وأوضحت أن هذه الأنشطة تمثل جزءًا من اتجاه متزايد لاستغلال الذكاء الاصطناعي في تنفيذ عمليات احتيالية أكثر تعقيدًا.
وأفاد التقرير أن OpenAI رصدت استخدام الذكاء الاصطناعي في مجالات متعددة مثل تصحيح الأخطاء البرمجية، وإنشاء محتوى لمنصات مختلفة، وإدارة حملات تضليل. وأشار إلى أن تحليل أنماط السلوك عبر الحسابات ساعد في كشف ارتباطات مجموعات من الأنشطة ظاهريًا وكأنها أشياء منفصلة ولا علاقة لها ببعضها.
ونتيجة لذلك، قامت بتعطيل بعض هذه العمليات.
ومن بين الحالات التي كشفتها الشركة، كان هناك حساب استخدم ChatGPT لإنشاء مقالات إخبارية موجهة للنيل من صورة الولايات المتحدة. تلك المقالات تم نشرها في وسائل إعلامية بأمريكا اللاتينية تحت اسم شركة صينية.
كما تم حظر حسابات يُعتقد أنها تعود إلى كوريا الشمالية، حيث استُخدمت لإنشاء ملفات تعريفية مزيفة لمتقدمين لوظائف، في محاولة لاختراق شركات غربية.
وفي مثال آخر، اكتشفت OpenAI مجموعة حسابات مرتبطة بجهات اشتبهوا بانتمائها إلى كمبوديا، والتي تم استخدامها لتوليد تعليقات وترجمات ضمن شبكة احتيال عاطفي تستهدف الضحايا عبر منصات مثل X (تويتر سابقًا) وفيسبوك وإنستغرام.
ورغم أن الشركة لم تفصح عن العدد الإجمالي للحسابات المحظورة أو الإطار الزمني لهذه الإجراءات، فقد أكدت أنها مستمرة في مراقبة ومنع أي استغلال غير مشروع لتقنياتها.
كما شددت على أن سياساتها تحظر تمامًا استخدام أدواتها في عمليات الاحتيال أو الخداع، مشيرةً إلى أنها حظرت "عشرات الحسابات" التي تورطت في مخططات توظيف احتيالية.
وتعمل OpenAI بالتعاون مع شركات أخرى، من بينها Meta، لتطوير قدراتها على رصد التهديدات ومنع إساءة استخدام الذكاء الاصطناعي. وأكدت الشركة التزامها بتطوير وسائل أقوى لكشف التلاعب والتصدي للمخاطر المتزايدة المرتبطة باستخدام تقنيات الذكاء الاصطناعي في الأنشطة الإجرامية.
