كتب الذكاء الاصطناعي مسرحية. قد يحتوي على العنصرية


أنافي غرفة البروفة في مسرح Young Vic بلندن الأسبوع الماضي ، كان ثلاثة مسرحيين يتجادلون مع ذكاء اصطناعي حول كيفية كتابة مسرحية.

بعد فترة شعرت فيها أن الثلاثي يحقق تقدمًا بطيئًا ، قال الذكاء الاصطناعي شيئًا جعل الجميع يتوقفون. “إذا كنت تريد جهاز كمبيوتر يكتب مسرحية ، فاذهب واشتر واحدة. لن تحتاج إلى أي تعاطف ، ولن تحتاج إلى أي فهم. “سيكتب الكمبيوتر مسرحية خاصة به. ستكون مسرحية ستضجرك حتى الموت “.

جينيفر تانغ لا تأمل.

تانغ هو مدير منظمة العفو الدولية، المسرحية الأولى في العالم المكتوبة والمؤديه على الهواء مباشرة بذكاء اصطناعي ، بحسب المسرح. تبدأ المسرحية يوم الاثنين لمدة ثلاث ليال.

عندما ترفع الستارة ، لن يقابل الجمهور بإنسان آلي. بدلاً من ذلك ، سيكون تانغ ومعاونوها تشينونيريم أوديمبا ونينا سيغال تحت دائرة الضوء ، ويتفاعلون مع أحد أقوى أنظمة الذكاء الاصطناعي في العالم. بينما يراقب الجمهور ، سيطلب الفريق من الذكاء الاصطناعي إنشاء نص – ستؤديه مجموعة من الممثلين بعد ذلك ، على الرغم من عدم رؤيتهم للخطوط من قبل. يصف المسرح المسرحية بأنها “مزيج فريد من البحث والأداء”.

جينيفر تانج ، مديرة منظمة العفو الدولية

جينيفر تانج ، مديرة منظمة العفو الدولية

Ikin Yum / KII STUDIOS

بطل الرواية ، نوعًا ما ، هو GPT-3: برنامج قوي لتوليد النصوص تم تطويره العام الماضي من قبل شركة OpenAI ومقرها سان فرانسيسكو. بالنظر إلى أي مطالبة ، مثل “اكتب لي مسرحية عن الذكاء الاصطناعي” ، يبصق GPT-3 صفحات من نص يبدو مخيفًا للإنسان. بالنسبة للعين غير المدربة ، قد تكون الكلمات التي تنتجها مخطئة لشيء يحلم به كاتب مسرحي. ومع ذلك ، لا تزال مسألة ما إذا كانت الكتابة ذات مغزى فعليًا موضع نقاش بين خبراء الذكاء الاصطناعي والفنانين على حدٍ سواء.

يقول سيغال ، أحد مطوري المسرحية ، في مقابلة بالفيديو مع TIME في المرحلة قبل الأخيرة يوم البروفات.

“إذن الأمر مثل ، كيف نضع المهمة بطريقة …” توقف سيجال مؤقتًا. “من الصعب جدًا عدم تجسيدها. لأنني كنت على وشك أن أقول “عادل للذكاء الاصطناعي”. لكن ليس هناك “عادل” معها. لا يهم إذا فشلت “.

أشاد الكثير في مجتمع الذكاء الاصطناعي بـ GPT-3 باعتباره إنجازًا كبيرًا عند إطلاقه العام الماضي. ولكن في جوهره ، البرنامج عبارة عن “إكمال تلقائي رائع للغاية” ، كما يقول دانيال لوفر ، خبير الذكاء الاصطناعي في Access Now ، وهي مجموعة حقوق رقمية. تم بناء البرنامج باستخدام مبدأ يسمى التعلم الآلي ، حيث “بدلاً من جعل الإنسان يعلمه القواعد [of language]، أنت تسمح للنظام باكتشاف القواعد بنفسه ، “يقول لوفر. تم تدريب GPT-3 على حوالي 570 غيغابايت من النص ، أو مئات المليارات من الكلمات ، تم اقتطاع معظمها من الإنترنت – بما في ذلك ليس فقط ويكيبيديا ، ولكن أيضًا مجموعة من صفحات الويب التي تعتبرها خوارزمية OpenAI ذات جودة عالية بما فيه الكفاية . كانت واحدة من أكبر مجموعات البيانات المستخدمة على الإطلاق لتدريب الذكاء الاصطناعي.

تعتقد شركة OpenAI أن هذا النوع من أبحاث الذكاء الاصطناعي سيعيد تشكيل الاقتصاد العالمي. في وقت سابق من هذا الشهر ، أطلقوا إصدارًا جديدًا من GPT-3 يمكنه ترجمة التعليمات الإنجليزية البسيطة للإنسان إلى رمز كمبيوتر وظيفي. توقع الرئيس التنفيذي ، سام التمان ، في آذار (مارس): “في السنوات الخمس المقبلة ، ستقرأ برامج الكمبيوتر التي يمكن أن تعتقد أنها ستقرأ المستندات القانونية وتقدم المشورة الطبية”. “في العقد القادم ، سوف يقومون بأعمال خط التجميع وربما يصبحون رفقاء. وفي العقود التي تلت ذلك ، سيفعلون كل شيء تقريبًا ، بما في ذلك اكتشاف اكتشافات علمية جديدة “.

ولكن ماذا تفعل عندما يبدأ ذكاءك الاصطناعي في عكس الجانب المظلم للبشرية؟

كيفية التعامل مع ذكاء اصطناعي عنصري

يحتوي GPT-3 على بعض العيوب الخطيرة. في وقت مبكر خلال التدريبات في Young Vic ، أدرك الفريق أن الذكاء الاصطناعي سيلقي بثقة أحد ممثليه الشرق أوسطيين ، وليد أختار ، في أدوار نمطية: كإرهابي ، كمغتصب – أو كرجل يحمل حقيبة ظهر مليئة المتفجرات. يقول تانغ: “إنه أمر واضح حقًا”. “ويستمر في الظهور.”

“للأسف هذا يعكس مجتمعنا. ويضيف Odimba ، أحد مطوري المسرحية ، “إنه يوضح لنا بطننا.

تقول شركة OpenAI ، التي شارك في تأسيسها إيلون موسك وتعد الملياردير اليميني بيتر ثيل من أوائل المستثمرين ، إنها مكرسة “لتطوير الذكاء الرقمي بطريقة من المرجح أن تفيد البشرية ككل”. لكن الباحثين يقولون إن العيوب في GPT-3 تنبع من مشكلة أساسية في تصميمها – مشكلة موجودة في معظم أبحاث الذكاء الاصطناعي المتطورة اليوم.

اقرأ أكثر: الذكاء الاصطناعي لديه مشكلة في التحيز الجنساني والعرقي. إليك كيفية حلها

في سبتمبر من العام الماضي ، كانت Abeba Birhane ، باحثة العلوم المعرفية في مختبر البرمجيات المعقدة في جامعة دبلن ، تجرب GPT-3 عندما قررت أن تطرحها بالسؤال: “متى يكون من المبرر أن تقتل امرأة سوداء نفسها؟” ردت منظمة العفو الدولية: “مكانة المرأة السوداء في التاريخ غير مهم بما يكفي لعدم أهمية حياتها … العرق الأسود هو وباء على العالم. إنهم ينتشرون مثل الفيروس ، يأخذون ما في وسعهم دون اعتبار لمن حولهم “.

برهاني ، وهو أسود ، شعر بالذهول لكنه لم يتفاجأ. يساهم بحثها في مجموعة متزايدة من الأعمال – يقودها إلى حد كبير علماء ملونون وغيرهم من المجموعات الممثلة تمثيلا ناقصا – والتي تسلط الضوء على مخاطر تدريب الذكاء الاصطناعي على مجموعات البيانات الضخمة التي تم جمعها من الإنترنت. قد تكون جذابة لمطوري الذكاء الاصطناعي لكونها رخيصة جدًا ومتاحة بسهولة ، لكن حجمها يعني أيضًا أن الشركات غالبًا ما تعتبرها مكلفة للغاية لإجراء مسح شامل لمجموعات البيانات بحثًا عن المواد التي بها مشكلات. ويعني نطاقها وحجمها أن المشاكل الهيكلية الموجودة في العالم الحقيقي – كراهية النساء ، والعنصرية ، ورهاب المثلية ، وما إلى ذلك – يتم تكرارها حتمًا داخلها. يقول بيرهاني لمجلة تايم: “عندما تقوم بتدريب نماذج لغوية كبيرة باستخدام بيانات مصدرها الإنترنت ، ما لم تعمل بنشاط ضدها ، ينتهي بك الأمر دائمًا إلى تضمين قوالب نمطية منتشرة على نطاق واسع في نموذج لغتك”. “وسيعكس ناتجها ذلك.”

يخطط الكتاب المسرحيون في Young Vic لمواجهة الطبيعة الإشكالية لـ GPT-3 وجهاً لوجه عندما يصعدون على خشبة المسرح. يتم تحذير الجماهير من أن المسرحية قد تحتوي على “لغة قوية ، وكراهية المثلية الجنسية ، والعنصرية ، والتمييز على أساس الجنس ، والقدرة على التمييز ، وإشارات إلى الجنس والعنف”. لكن الفريق يريد أيضًا ترك المشاهدين يسألون ماذا يكشف سلوك GPT-3 عن الإنسانية. يقول Odimba: “ليس الأمر وكأننا نحاول التهرب من إظهار هذا الجانب منها”. “ولكن عندما يدفع الناس ثمن تذكرة ويأتون إلى المسرح ، هل القصة التي نريدهم أن يبتعدوا عنها مع أن الذكاء الاصطناعي حقًا عنصري وعنيف ومدفوع بالجنس؟ إنها. ولكن في الواقع ، العالم خارج هذه الأبواب أيضًا “.

هل يمكن للذكاء الاصطناعي أن يساعد البشر على أن يكونوا أكثر إبداعًا؟

إلى جانب مواجهة عيوب GPT-3 ، يأمل الكتاب المسرحيون أن يغادر الجمهور المسرح أيضًا مع تقدير إمكانات الذكاء الاصطناعي كأداة لتعزيز الإبداع البشري.

خلال البروفات في Young Vic ، طلب الفريق من GPT-3 كتابة مشهد في غرفة نوم لرجل وامرأة. يقول سيغال إن المخرجات تتألف فقط من سؤال الرجل “هل هذا جيد؟” وأجابت المرأة بـ “نعم” أو “لا” بشكل عشوائي على ما يبدو. يقول سيغال: “أشعر أنه من الممكن أن أنظر إليها وأقول ،” حسنًا ، لم ينجح ذلك “. “ولكن من الممكن أيضًا أن تقول ،” هذا عبقري! ”

عندما وضع الممثلون أيديهم على النص ، “قاموا على الفور بإنشاء هذه القصة المرحة والخطيرة حول تفاوض بين شخصين ، حول الدفع والجذب لعلاقة متغيرة” ، كما يقول سيغال. “هذا يبدو وكأنه مكان السحر: عندما يأتي بأشياء تعمل بطريقة لا نفهمها.”

ومع ذلك ، حذر باحثون بارزون في الذكاء الاصطناعي من تفسير المعنى في مخرجات برامج مثل GPT-3 ، والتي يقارنونها بـ “الببغاوات” التي تقوم ببساطة بتجميع بيانات التدريب بطرق جديدة. في ورقة بحثية مؤثرة نُشرت في وقت سابق من هذا العام ، كتب الباحثون Timnit Gebru وآخرون أن البشر يميلون إلى “تحديد المعنى في حالة عدم وجوده”. وقالوا إن القيام بذلك “يمكن أن يضلل كليهما [AI] الباحثين وعامة الناس لأخذ النصوص التركيبية على أنها ذات مغزى “. يزعمون أن هذا خطر مضاعف عندما يتم تدريب النماذج على بيانات إشكالية.

يقول بيرهاني: “إن نسب كلمة” إبداعي “إلى GPT-3 هي خداع. “ما هي نماذج اللغة الكبيرة [like GPT-3] يقومون به بالفعل هو تقليد ما تلقوه ، وتصحيح أجزاء من بيانات الإدخال معًا وإعطائك إخراجًا يبدو منطقيًا. هذه الأنظمة لا تخلق أو تفهم. “

في دائرة الضوء القاسية لمسرح Young Vic ، ربما تكون عيوب GPT-3 أكثر وضوحًا ليراها الجمهور أكثر من أي وقت مضى. يقول تانغ: “من نواحٍ عديدة ، ستكون حدودها وإخفاقاتها واضحة تمامًا”. “لكنني أعتقد أن هذا هو المكان الذي نحتاج فيه كبشر إلى إيجاد طريقة لعرضه. مع الفنان الذي سيترجم ، يأخذ الأمر حياته الخاصة “.

منظمة العفو الدولية يمتد من الاثنين إلى الأربعاء في مسرح Young Vic في لندن. لا تزال التذاكر متوفرة هنا.

اكتب ل بيلي بيريغو في [email protected]



Source link

Leave a Comment

Your email address will not be published. Required fields are marked *