Formative يتم إطلاق أدوات مدعومة بالذكاء الاصطناعي (الذكاء الاصطناعي) من ChatGPT. تحمل عمليات تكامل النظام الأساسي هذه الكثير من الإمكانات ، لتوسيع حدود ما Formative يمكن أن تفعل وإعطاء المعلمين والطلاب وقتا ثمينا مرة أخرى في الفصل الدراسي. ومع ذلك ، في Formative ونفهم أيضا أنه مع القوة العظمى تأتي مسؤولية كبيرة. قم بإجراء بحث Google حول الذكاء الاصطناعي أو ChatGPT ، ومن المحتمل أن تجد مقالات حول التحيز.

نظرا لأن أدوات الذكاء الاصطناعي "مدربة" باستخدام شبكة الويب العالمية ، فإن قدرتها على التعلم تقتصر على ما هو موجود عبر الإنترنت. على الرغم من اتساع الإنترنت ، فإن الكثير مما ستجده يعكس ديموغرافية محدودة للغاية: بشكل رئيسي الناس في العالم الغربي ، بينما في جميع أنحاء العالم ، لدينا مجموعة متنوعة من الأفكار والأعراق والأجناس وأنظمة المعتقدات والأوضاع الاجتماعية والاقتصادية.

لا تمثل أدوات الذكاء الاصطناعي عموما هذه المنظورات الواسعة. عندما تتعلم هذه الأدوات من مجموعة ديموغرافية واحدة في المقام الأول ، فإنها تشوه مخرجاتها لتحمل تحيزات مماثلة تجاه الأشخاص الذين يتمتعون بالكثير من الامتيازات. على سبيل المثال ، تقوم كل من أدوات توليد الصور DALL-E 2 و Stable Diffusion بشكل أساسي بإخراج الأفراد البيض في غالبية المطالبات حول البشر.

ومع ذلك ، فإن المطورين الذين يبنون هذه البرامج - والعديد من البرامج المماثلة لهم - يسعون جاهدين لتنويع مخرجاتهم. يساعد الاعتراف بإمكانية التحيز ومعالجتها - والحرص على استجواب نتائج الذكاء الاصطناعي بعناية للمحتوى المتحيز - في تقليل أي حالات من هذا القبيل قد تظهر. Formative تسعى دائما إلى إبقاء هذه الأمور في مقدمة اهتماماتها عند تطوير استخدامات الذكاء الاصطناعي.

تحقيقا لهذه الغاية ، قمنا بإعداد خمس نصائح لمساعدتك على تقليل التحيز عند استخدام أدوات التعلم المتكاملة الذكاء الاصطناعي. بعد كل شيء ، فإن أفضل طريقة لمنع أي مشاكل هي أن تكون استباقيا ، للتفكير فيها في وقت مبكر. علاوة على ذلك ، يزيد هذا العمل أيضا من جودة الأداة نفسها.

• كن محددا! اختر صياغتك عن قصد. عند مطالبة الذكاء الاصطناعي ، أضف كلمات محددة لتوسيع نطاق الذكاء الاصطناعي. بدلا من طلب مقال عن كل من يذهب إلى الحديقة ، يمكنك طلب مقال تحليلي من خمس فقرات بالضبط يركز على التجارب والمواهب المتنوعة لأولئك الأشخاص الذين يزورون الحديقة.

• استعراض! لا تفترض أن إجابة الذكاء الاصطناعي صحيحة وخالية من الأخطاء. لا يمكن للأدوات الذكاء الاصطناعي دائما دعم سياق معين ، وغالبا ما تكافح لفهم نغمة ساخرة. راجع دائما أي شيء ينشئه لك الذكاء الاصطناعي: اقرأه ، وتساءل عنه ، وتأكد من عدم وجود أي شيء في غير محله.

• تقييم نقدي! بعد مراجعة عمل الذكاء الاصطناعي ، كن ناقدا. إذا كنت تستخدم أمثلة جنسانية ، فهل يتم تقسيمها بالتساوي؟ إذا كنت تبحث عن محتوى لأشخاص يسيرون في حديقة ، فهل قدم الذكاء الاصطناعي تمثيلا متنوعا للأعراق والأعمار والتعبيرات الجنسية وأحجام الجسم والقدرات؟

• جمع! إذا وجدت أن العمل الذي تم إنشاؤه الذكاء الاصطناعي يفتقر إلى تمثيل متنوع ، خاصة عندما يجب تضمين صوت أو شخص في موضوع معين ، أضف مواد إضافية تتجاوز ما قدمه الذكاء الاصطناعي.

• شجع التنويع! أفضل طريقة لمعالجة التحيز هي توسيع التركيبة السكانية للأشخاص الذين يعملون في العلوم والتكنولوجيا والهندسة والرياضيات. قد تعني هذه العملية ببساطة تشجيع العقول الشابة على استكشاف اهتمامات العلوم والتكنولوجيا والهندسة والرياضيات. قد يعني ذلك أيضا التعامل مع منظمات مثل We All Code التي تعمل على جلب العلوم والتكنولوجيا والهندسة والرياضيات إلى المجتمعات التي يتم تجاهلها بشكل متكرر والمستبعدة تاريخيا.

الذكاء الاصطناعي و ChatGPT هي أدوات قوية تعمل على توسيع قوة الأفراد والشركات. نحن متحمسون جدا لهذه التطورات التكنولوجية ، لكننا نعلم أيضا أن التباطؤ قليلا ومراجعة مخرجات الذكاء الاصطناعي سيساعد في ضمان استخدامنا لهذه الأدوات بأقصى قدر من المسؤولية.