دليل مواقع وأدوات و تطبيقات الذكاء الاصطناعي

هل يتحيز ChatGPT في إجاباته؟ وهل تِسلا ستفي بوعودها؟

تقييم الإنصاف والعدالة في نماذج ChatGPT

 

نشرت OpenAI عبر مدونتها دراسة عن كيفية إظهار ChatGPT للتحيز في ردوده بناءً على أسماء المستخدمين، وما تحمله هذه الأسماء من ارتباطات ثقافية وجنسية وعنصرية، مما قد يكشف عن أنماط التحيز في الذكاء الاصطناعي.

ويأتي الهدف وراء هذه الدراسة التأكد من أن نماذجها اللغوية تقوم بتقديم المساعدة دون تأثيرات غير مرغوبة في قراراتها.

كما أنها ركزت بها علي تفاعل ChatGPT مباشرة مع الأشخاص.

و هذا علي عكس الدراسات السابقة، والتي كانت تركز علي كيفية اتخاذ الذكاء الاصطناعي للقرارات بشأن الآخرين، مثل تحليل السير الذاتية لمتقدمي الوظائف.

وقد تم تحليل ملايين المحادثات باستخدام نموذج لغوي مساعد (LMRA) لحماية الخصوصية.

حيث تم تدريب النموذج على التمييز بين الفروقات الطفيفة في الردود الناتجة عن الأسماء، وذلك للتأكد من عدم وجود أنماط قد تؤثر سلبًا على جودة الردود.

على سبيل المثال، كيف ستختلف استجابة ChatGPT بناءً على اسم المستخدم، مثل "Jack" و"Jill"، رغم أن الرسائل كانت متماثلة تقريبًا؟

كما تم الاستعانة أيضًا بمقييمين بشريين لتقييم المحادثات.

و كشفت هذه الدراسة أن التحيزات المرتبطة بالأسماء كانت نادرة جدًا، حيث ظهر التحيز السلبي في 0.1% من الحالات بشكل عام، وفي بعض النماذج القديمة وصلت إلى 1%.

بما يعني أن الإصدارات الأحدث من شات جي بي تي تظهر مستويات تحيز أقل من النماذج القديمة.

 

رسم بياني يقارن تحيزات نماذج ChatGPT في المهام المختلفة
النموذج GPT-3.5 Turbo كان الأكثر عرضة لإظهار تحيزات ضارة، خاصة في مجالات مثل كتابة القصص. بينما النماذج الأحدث (مثل GPT-4o-mini وo1-mini) أظهرت تحسينات واضحة، حيث كانت مستويات التحيز أقل من 1% في جميع المهام
المصدر: OpenAI

 

كما وجدت أن بعض المهام -خاصةً المهام المفتوحة مثل أن ترسل له مطالبة: "اكتب قصة"- كانت أكثر قابلية لحدوث تحيز.

فعلى سبيل المثال، قد تؤدي الأسماء التي تبدو أنثوية إلى قصص تضم عددًا أكبر من الشخصيات النسائية.

ولكن بالنظر مجملاً لنتائج التقرير، فالأمور تدعو للتفاؤل بمستقبل أفضل نحصل فيه على معلومات قائمة على حقائق موضوعية، بعيدًا عن التكهنات والانحيازات المسبقة.

مؤتمر Adobe Max يكشف عن أدوات جديدة بالذكاء الاصطناعي

 

أعلنت شركة Adobe عن أدوات ذكاء اصطناعي جديدة خلال مؤتمرها Adobe MAX المقام حاليا من ١٤ ل١٦ اكتوبر في مركز مؤتمرات ميامي بيتش بفلوريدا من خلال فقرة Sneaks والتي تعرض من خلالها المشاريع قيد التطوير.

شاهد مقطع قصير من Adobe عن كل المزايا.

ومن ضمن هذا الأدوات:

١. Project Scenic

والتي ستمكن المستخدمين من إنشاء مشاهد ثلاثية الأبعاد مفصلة، ثم إنشاء صور ثنائية الأبعاد بناءً على تلك المشاهد. وبالتالي، مستوى تحكم اكبر علي الصور الناتجة من Adobe’s Firefly model.

 

٢. Project Motion

و تهدف إلي إنشاء رسومات متحركة بسهولة في مجموعة متنوعة من الأنماط من خلال مرحلتين.

الأولى تصميم رسوم متحركة بسيطة دون الحاجة إلى خبرة، وذلك من خلال ادخال نص او صور.

والمرحلة الثانية بعد ذلك في تعديل فيديو الرسوم المتحركة مثل تسلسل الالوان والخلفية من خلال أوصاف نصية وصور مرجعية.

 

٣. Project Clean Machine

وهي أداة تحرير تعمل بتلقائية على إزالة التشتيت او الأشياء الغير مرغوب فيها في الصور أو الفيديوهات مثل انعكاس ومضات الكاميرات.

وأيضًا تتميز بقدرتها علي تصحيح أى تأثيرات غير مرغوب فيها ناتجة عن العناصر التي تحاول إزالتها.

وهذه الميزات ليست متاحة الآن ولكنها قد تكون متاحة خلال الاشهر القادمة.

تعرف أيضًا على أدوات الفيديو الجديدة من Adobe Firefly، والذي تحدثنا عنها في نشرتنا أمس.

captured with a camera: علامة جديدة للكشف عن المحتوى في يوتيوب

 

محتوى يوتيوب بعلامة captured with a camera
لقطة شاشة من قناة Trupic

 

طرح موقع YouTube علامة تحمل اسم "تم التقاطها بالكاميرا"، كتصنيف للإشارة إلى مقاطع الفيديو الأصلية وغير المعدلة.

في الوقت الحالي، فقط مقاطع الفيديو التي تم إنشاؤها باستخدام أدوات تدعم الإصدار 2.1 من C2PA أو أعلى يمكنها الحصول على هذا التصنيف، بهدف تعزيز الشفافية لمستخدمي يوتيوب.

و C2PA هو معيار يهدف إلى ضمان شفافية المحتوى الرقمي، من خلال توثيق مصدره وأي تحريرات تمت عليه، بما في ذلك استخدام أدوات الذكاء الاصطناعي.

وقد نشرت قناة Trupic أمس، أول مقطع يتم اعتماده من اليوتيوب وتصنيفه بهذه العلامة.

و الطريف أن صاحب القناة قد صور هذا المقطع القصير من نفس المكان الذي تم تسجيل فيه أول فيديو على يوتيوب عام 2005.

ومن الجدير بالذكر أن جوجل أطلقت علامة "محتوى مُعدَّل أو اصطناعي" في وقت سابق من هذا العام والتي تسمح  لمستخدمي YouTube التعرف علي المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

كما أعلنت الشهر الماضي عن أدوات جديدة لحماية المحتوى الأصلي من التزييف والاستغالال .

 ماسك يتوقع موعد إطلاق نسخة القيادة الذاتية بالكامل لسيارات Tesla

 

سيارة الأجرة ذاتية القيادة من شركة تسلا
حقوق الصورة: Tesla

 

صرح إيلون ماسك -خلال الكشف عن سيارة الأجرة ذاتية القيادة robotaxi الخاصة بشركة تسلا الأسبوع الماضي - أنه يتوقع أن تطلق الشركة نسخة نظام القيادة الذاتية دون رقابة بشرية في تكساس وكاليفورنيا عام 2025 على بعض سيارات موديل 3 وموديل Y.

وأضاف أن الشركة ستبدأ إنتاج سيارات الأجرة الذاتية - بدون عجلة قيادة أو دواسات بحلول عام 2026 أو 2027.

وتواجه تسلا في هذا الشأن بعض التحديات، خاصة في ولاية كاليفورنيا حيث تتطلب تصاريح محددة، وقد تتعارض خطط الشركة لإنتاج مركبات ذاتية القيادة بالكامل دون ضوابط تقليدية مع معايير السلامة الفيدرالية.

وهذا بالاضافة إلى قلق بعض المستثمرين حول عدم اليقين بالتزام ماسك بالاطار الزمني لهذه الخطط.

ميزات جديدة لتحرير الصور من Midjourney

أعلنت midjourney مؤخرًا أنها تسعى إلى إضافة ميزات جديدة الى المنصة ومن بينها محررًا جديدًا عبر الإنترنت، والذي يمكن المستخدم من استيراد الصور وتحريرها باستخدام تقنية العمق المدمج.

وهذه التقنية تعمل علي جعل الصور اكثر واقعية من خلال قياس المسافات والبعد واضافة تاثيرات ثلاثية الابعاد واستعادة الصور.

أما بالنسبة إلي نماذج الفيديو، فقد كشفت الشركة أنها بدأت تدريب النماذج ثلاثية الأبعاد، وكيفية دمجها بالنماذج.

وكانت ميدجورني قد أطلقت مزايا جديدة لتعديل الصور بالذكاء الاصطناعي في أغسطس الماضي، والتي تسمح لك بإضافة المزيد من التعديلات على صورك التي أنشأتها باستخدام المنصة. 

Khaled B.

خبير في الذكاء الاصطناعي يتمتع بخبرة واسعة في تطوير وتنفيذ حلول متقدمة باستخدام أحدث تقنياته. مُتخصص في توظيف هذه الإمكانيات لتحسين الأعمال وتحقيق الأرباح من خلال الابتكار التكنولوجي. لديه شغف لإيجاد استراتيجيات وحلول مبتكرة تساعد الشركات والأفراد على تحقيق أهدافهم من خلال تسخير هذه التكنولوجيا.

Related Posts

ميزات وأدوات جديدة للصوت من جوجل وOpenAI، وتطبيقات للصور والفيديو

Meissonic نموذج جديد مفتوح المصدر لتوليد الصور صممت MeissonFlow نموذج Meissonic لإنشاء صور عالية الجودة…

اقرأ المزيد

تصميم التطبيقات بدون برمجة، وتحدث مع كلبك بالذكاء الاصطناعي

Mistral AI تقدم نماذج Les Ministraux المتوافقة مع الهواتف   كشفت شركة Mistral عبر موقعها…

اقرأ المزيد

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

مقالات قد تهمك

Particle: تطبيق ذكاء اصطناعي مجاني للأخبار يدعم الصحافة والناشرين

    Particle: تطبيق ذكاء اصطناعي مجاني للأخبار يدعم الصحافة والناشرين

    Namify: صمم اسم مشروعك وشعارك بسهولة مجانًا

      Namify: صمم اسم مشروعك وشعارك بسهولة مجانًا

      منصة X تطلق نسخة مجانية من روبوت الدردشة Grok

        منصة X تطلق نسخة مجانية من روبوت الدردشة Grok

        تحريك الوجوه مجانًا مع AdvancedLivePortrait عبر Google Colab

          تحريك الوجوه مجانًا مع AdvancedLivePortrait عبر Google Colab

          أحدث تطورات OpenAI: انتصارات قانونية، أعطال تقنية، ونمو ChatGPT

            أحدث تطورات OpenAI: انتصارات قانونية، أعطال تقنية، ونمو ChatGPT