تقييم الإنصاف والعدالة في نماذج ChatGPT
نشرت OpenAI عبر مدونتها دراسة عن كيفية إظهار ChatGPT للتحيز في ردوده بناءً على أسماء المستخدمين، وما تحمله هذه الأسماء من ارتباطات ثقافية وجنسية وعنصرية، مما قد يكشف عن أنماط التحيز في الذكاء الاصطناعي.
ويأتي الهدف وراء هذه الدراسة التأكد من أن نماذجها اللغوية تقوم بتقديم المساعدة دون تأثيرات غير مرغوبة في قراراتها.
كما أنها ركزت بها علي تفاعل ChatGPT مباشرة مع الأشخاص.
و هذا علي عكس الدراسات السابقة، والتي كانت تركز علي كيفية اتخاذ الذكاء الاصطناعي للقرارات بشأن الآخرين، مثل تحليل السير الذاتية لمتقدمي الوظائف.
وقد تم تحليل ملايين المحادثات باستخدام نموذج لغوي مساعد (LMRA) لحماية الخصوصية.
حيث تم تدريب النموذج على التمييز بين الفروقات الطفيفة في الردود الناتجة عن الأسماء، وذلك للتأكد من عدم وجود أنماط قد تؤثر سلبًا على جودة الردود.
على سبيل المثال، كيف ستختلف استجابة ChatGPT بناءً على اسم المستخدم، مثل "Jack" و"Jill"، رغم أن الرسائل كانت متماثلة تقريبًا؟
كما تم الاستعانة أيضًا بمقييمين بشريين لتقييم المحادثات.
و كشفت هذه الدراسة أن التحيزات المرتبطة بالأسماء كانت نادرة جدًا، حيث ظهر التحيز السلبي في 0.1% من الحالات بشكل عام، وفي بعض النماذج القديمة وصلت إلى 1%.
بما يعني أن الإصدارات الأحدث من شات جي بي تي تظهر مستويات تحيز أقل من النماذج القديمة.
المصدر: OpenAI
كما وجدت أن بعض المهام -خاصةً المهام المفتوحة مثل أن ترسل له مطالبة: "اكتب قصة"- كانت أكثر قابلية لحدوث تحيز.
فعلى سبيل المثال، قد تؤدي الأسماء التي تبدو أنثوية إلى قصص تضم عددًا أكبر من الشخصيات النسائية.
ولكن بالنظر مجملاً لنتائج التقرير، فالأمور تدعو للتفاؤل بمستقبل أفضل نحصل فيه على معلومات قائمة على حقائق موضوعية، بعيدًا عن التكهنات والانحيازات المسبقة.
مؤتمر Adobe Max يكشف عن أدوات جديدة بالذكاء الاصطناعي
أعلنت شركة Adobe عن أدوات ذكاء اصطناعي جديدة خلال مؤتمرها Adobe MAX المقام حاليا من ١٤ ل١٦ اكتوبر في مركز مؤتمرات ميامي بيتش بفلوريدا من خلال فقرة Sneaks والتي تعرض من خلالها المشاريع قيد التطوير.
شاهد مقطع قصير من Adobe عن كل المزايا.
ومن ضمن هذا الأدوات:
١. Project Scenic
والتي ستمكن المستخدمين من إنشاء مشاهد ثلاثية الأبعاد مفصلة، ثم إنشاء صور ثنائية الأبعاد بناءً على تلك المشاهد. وبالتالي، مستوى تحكم اكبر علي الصور الناتجة من Adobe’s Firefly model.
٢. Project Motion
و تهدف إلي إنشاء رسومات متحركة بسهولة في مجموعة متنوعة من الأنماط من خلال مرحلتين.
الأولى تصميم رسوم متحركة بسيطة دون الحاجة إلى خبرة، وذلك من خلال ادخال نص او صور.
والمرحلة الثانية بعد ذلك في تعديل فيديو الرسوم المتحركة مثل تسلسل الالوان والخلفية من خلال أوصاف نصية وصور مرجعية.
٣. Project Clean Machine
وهي أداة تحرير تعمل بتلقائية على إزالة التشتيت او الأشياء الغير مرغوب فيها في الصور أو الفيديوهات مثل انعكاس ومضات الكاميرات.
وأيضًا تتميز بقدرتها علي تصحيح أى تأثيرات غير مرغوب فيها ناتجة عن العناصر التي تحاول إزالتها.
وهذه الميزات ليست متاحة الآن ولكنها قد تكون متاحة خلال الاشهر القادمة.
تعرف أيضًا على أدوات الفيديو الجديدة من Adobe Firefly، والذي تحدثنا عنها في نشرتنا أمس.
captured with a camera: علامة جديدة للكشف عن المحتوى في يوتيوب
طرح موقع YouTube علامة تحمل اسم "تم التقاطها بالكاميرا"، كتصنيف للإشارة إلى مقاطع الفيديو الأصلية وغير المعدلة.
في الوقت الحالي، فقط مقاطع الفيديو التي تم إنشاؤها باستخدام أدوات تدعم الإصدار 2.1 من C2PA أو أعلى يمكنها الحصول على هذا التصنيف، بهدف تعزيز الشفافية لمستخدمي يوتيوب.
و C2PA هو معيار يهدف إلى ضمان شفافية المحتوى الرقمي، من خلال توثيق مصدره وأي تحريرات تمت عليه، بما في ذلك استخدام أدوات الذكاء الاصطناعي.
وقد نشرت قناة Trupic أمس، أول مقطع يتم اعتماده من اليوتيوب وتصنيفه بهذه العلامة.
و الطريف أن صاحب القناة قد صور هذا المقطع القصير من نفس المكان الذي تم تسجيل فيه أول فيديو على يوتيوب عام 2005.
ومن الجدير بالذكر أن جوجل أطلقت علامة "محتوى مُعدَّل أو اصطناعي" في وقت سابق من هذا العام والتي تسمح لمستخدمي YouTube التعرف علي المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
كما أعلنت الشهر الماضي عن أدوات جديدة لحماية المحتوى الأصلي من التزييف والاستغالال .
ماسك يتوقع موعد إطلاق نسخة القيادة الذاتية بالكامل لسيارات Tesla
صرح إيلون ماسك -خلال الكشف عن سيارة الأجرة ذاتية القيادة robotaxi الخاصة بشركة تسلا الأسبوع الماضي - أنه يتوقع أن تطلق الشركة نسخة نظام القيادة الذاتية دون رقابة بشرية في تكساس وكاليفورنيا عام 2025 على بعض سيارات موديل 3 وموديل Y.
وأضاف أن الشركة ستبدأ إنتاج سيارات الأجرة الذاتية - بدون عجلة قيادة أو دواسات بحلول عام 2026 أو 2027.
وتواجه تسلا في هذا الشأن بعض التحديات، خاصة في ولاية كاليفورنيا حيث تتطلب تصاريح محددة، وقد تتعارض خطط الشركة لإنتاج مركبات ذاتية القيادة بالكامل دون ضوابط تقليدية مع معايير السلامة الفيدرالية.
وهذا بالاضافة إلى قلق بعض المستثمرين حول عدم اليقين بالتزام ماسك بالاطار الزمني لهذه الخطط.
ميزات جديدة لتحرير الصور من Midjourney
أعلنت midjourney مؤخرًا أنها تسعى إلى إضافة ميزات جديدة الى المنصة ومن بينها محررًا جديدًا عبر الإنترنت، والذي يمكن المستخدم من استيراد الصور وتحريرها باستخدام تقنية العمق المدمج.
وهذه التقنية تعمل علي جعل الصور اكثر واقعية من خلال قياس المسافات والبعد واضافة تاثيرات ثلاثية الابعاد واستعادة الصور.
أما بالنسبة إلي نماذج الفيديو، فقد كشفت الشركة أنها بدأت تدريب النماذج ثلاثية الأبعاد، وكيفية دمجها بالنماذج.
وكانت ميدجورني قد أطلقت مزايا جديدة لتعديل الصور بالذكاء الاصطناعي في أغسطس الماضي، والتي تسمح لك بإضافة المزيد من التعديلات على صورك التي أنشأتها باستخدام المنصة.
