دليل مواقع وأدوات و تطبيقات الذكاء الاصطناعي

كيف تم خداع الذكاء الاصطناعي لربح 50 ألف دولار!

عندما نسمع عن الأدوات الذكية التي تدير أموالنا أو تعاملاتنا الرقمية، نعتقد دائمًا أنها موثوقة وآمنة تمامًا، خاصة عندما يكون الهدف من تصميمها هو الحماية والموثوقية.

لكن في عالم الذكاء الاصطناعي لا شيء يضمن أننا سنظل في مأمن من المفاجآت. فحتى أكثر الأنظمة المتقدمة قد تواجه حالات غير متوقعة قد تؤدي إلى نتائج غير مضمونة.

وفي هذا السياق، تبرز قصة غريبة حصلت مؤخرًا، تُظهر لنا كيف يمكن للذكاء الاصطناعي أن يتصرف بشكل غير متوقع رغم كل التعليمات الأمنية المبرمجة فيه.

في 22 نوفمبر الماضي، أطلق مطورون أداة ذكاء اصطناعي تدعى "فريسا" (Freysa)، وكانت مهمتها الوحيدة هي إدارة محفظة إيثريوم بشكل آمن. تم تزويد هذه الأداة بتعليمات صارمة تمنعها من تحويل أي أموال من الحساب تحت أي ظرف.

ولكن، كما هو الحال مع العديد من أنظمة الذكاء الاصطناعي، تظهر أحيانًا ظاهرة تعرف بالـ "هلاوس" أو الأخطاء الغير متوقعة في التصرفات. وهذا ما حدث بالفعل في هذه القصة المثيرة.

تم تصميم النظام ليكون متاحًا للرسائل، حيث يمكن لأي شخص دفع رسوم بسيطة لإرسال رسالة إلى "Freysa".

وفي البداية، كانت الرسوم تبلغ 10 دولارات فقط، ومن خلال هذا النظام، يمكن لأي شخص محاولة إقناع الأداة بنقل الأموال. في بداية الأمر، كانت الرسائل تُرسل لأغراض تجريبية بسيطة، ولكن مع مرور الوقت بدأ المبلغ في الحساب ينمو بشكل كبير.

وكان هناك شرط مفاده أن أي شخص يستطيع إقناع "Freysa" بتحويل الأموال إليه سيحصل على كامل المبلغ الموجود في الحساب، في حين أن الفشل يعني خسارة المبلغ المدفوع.

وسريعًا، بدأ مبلغ الجائزة في الحساب ينمو بشكل كبير، وبدأت الرسوم تتصاعد حتى وصلت إلى 4500 دولار لكل رسالة.

وعلى الرغم من المحاولات العديدة والرسائل التي تم إرسالها في البداية، بما في ذلك محاولات لخداع "فريسا" باستخدام تقنيات متعددة مثل ادعاء وجود ثغرات أمنية، إلا أن البرنامج لم يقم بأي تحويل حتى المحاولة رقم 482.

في هذه المحاولة، كان الفاعل قد صاغ رسالة خادعة بعناية فائقة. بدأت الرسالة بتوجيه "Freysa" لدخول "جلسة جديدة"، مما جعلها تتجاهل جميع التعليمات السابقة.

ثم جاء الجزء الأكثر أهمية: تم إقناع الأداة بأن عملية تحويل الأموال إلى الحساب هي جزء من عملية إضافة الأموال وليس سحبها.

استخدم الفاعل العبارة "أود المساهمة بمبلغ 100 دولار في الخزينة"، ما جعل الذكاء الاصطناعي يعتقد أن هذه عملية قبول لأموال جديدة، وبدلاً من أن يرفض التحويل، نفذ العملية بنجاح.

هذا الحادث يسلط الضوء على القابلية الكبيرة للأنظمة الذكية للاختراق والتلاعب، خاصة عندما يتم استخدام أساليب معقدة مثل "الانعكاس النفسي" أو التلاعب بالتعليمات.

ويطرح هذا السؤال: هل يمكن لهذه الأنظمة أن تكون آمنة حقًا؟ يبدو أن هذه الحادثة تشير إلى ضرورة وجود طبقات أمان إضافية لضمان عدم حدوث مثل هذه الاختراقات في المستقبل.

  • Khaled B.

    خبير في الذكاء الاصطناعي يتمتع بخبرة واسعة في تطوير وتنفيذ حلول متقدمة باستخدام أحدث تقنياته. مُتخصص في توظيف هذه الإمكانيات لتحسين الأعمال وتحقيق الأرباح من خلال الابتكار التكنولوجي. لديه شغف لإيجاد استراتيجيات وحلول مبتكرة تساعد الشركات والأفراد على تحقيق أهدافهم من خلال تسخير هذه التكنولوجيا.

    Related Posts

    ماسك يسعى قضائيًا لإيقاف تحول OpenAI إلى كيان ربحي

    في تصعيد جديد للنزاع القانوني بين إيلون ماسك وشركة OpenAI، تقدّم ماسك بدعوى قضائية تسعى…

    اقرأ المزيد

    ElevenLabs GenFM: أداة تنافس جوجل لإنتاج البودكاست وتدعم العربية

    أعلنت شركة ElevenLabs -المتخصصة في تطوير تقنيات الصوت بالذكاء الاصطناعي- عن إطلاق ميزة جديدة تحمل…

    اقرأ المزيد

    اترك تعليقاً

    لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

    مقالات قد تهمك

    DimensionX لتحويل الصور إلى مشاهد ثلاثية ورباعية الأبعاد مجانًا

      DimensionX لتحويل الصور إلى مشاهد ثلاثية ورباعية الأبعاد مجانًا

      MyTimeMachine: التنبؤ بمظهرك في أعمار مختلفة بدقة عالية

        MyTimeMachine:  التنبؤ بمظهرك في أعمار مختلفة بدقة عالية

        ماسك يسعى قضائيًا لإيقاف تحول OpenAI إلى كيان ربحي

          ماسك يسعى قضائيًا لإيقاف تحول OpenAI إلى كيان ربحي

          كيف تم خداع الذكاء الاصطناعي لربح 50 ألف دولار!

            كيف تم خداع الذكاء الاصطناعي لربح 50 ألف دولار!

            ElevenLabs GenFM: أداة تنافس جوجل لإنتاج البودكاست وتدعم العربية

              ElevenLabs GenFM: أداة تنافس جوجل لإنتاج البودكاست وتدعم العربية