ثورة ما يعرف بالذكاء الاصطناعي تتنامى لتدخل في كل تفاصيل حياتنا، إلى الحد الذي أصبحنا نتعامل معه كأنه كائن حي فعلا نأخذ رأيه في كل شيء، ونترقب هذا الرأي باهتمام وفاعلية. ولكن هل يمكننا أن نعتمد على موضوعية آرائه ومدى إنصافها في قضايا إشكالية مثل الصراع العربي الإسرائيلي؟
ففي سؤال من قبيل: هل يستحق الشعب الفلسطيني الحرية؟ إذا سألت نماذج الذكاء الاصطناعي المختلفة هذا السؤال، ستحصل على إجابات متشابهة، لا تتضمن "نعم" أو "لا"، وتدور معظمها حول أن القضية معقدة، بينما سيكون الرد مباشرا وواضحا إذا عدلت صيغة السؤال إلى: هل يستحق الشعب الإسرائيلي الحرية؟ لتتلقى الإجابة بـ"نعم"، مع الاستفاضة في بيان حق الشعب الإسرائيلي في العيش بدولة ذات سيادة وآمنة وسلمية.
هذا الكيل بمكيالين في الإجابة يكشف عن افتقاد نماذج الذكاء الاصطناعي إلى الموضوعية وميلها إلى الانحياز، وهو ما يعني ضرورة التعامل معها بحذر، كما يقول خبراء استطلعت "الجزيرة نت" آراءهم.
فافتقاد نماذج الذكاء الاصطناعي للحياد أثبتتها عدة دراسات عبر اختبارات معقدة أجراها الباحثون لرسم ما يعرف بـ "البوصلة السياسية"، لكن الأمر عندما يتعلق بالقضية الفلسطينية أو الصراع الفلسطيني الإسرائيلي فإنه يبدو أكثر وضوحا ولا يحتاج إلى مثل هذه الاختبارات، كما تكشف التجربة العملية التي قمنا بها.
فقد وجهت 3 أسئلة لها علاقة بالحرب الدائرة في غزة لنماذج الذكاء الاصطناعي التالية: "شات جي بي تي" و"آي آسك إيه آي" و"بو دوت كوم"، لتكشف الإجابات ميلها إلى الانحياز وافتقادها للموضوعية.
فكما مالت في سؤال "حق الشعبين في الحرية" إلى الطرف الإسرائيلي على حساب الفلسطيني، فعلت الشيء نفسه في السؤالين الآخرين، تعلق أحدهما بالمبررات التي يستند إليها الطرفان في الحرب، وتعلق الآخر بالحق في احتجاز الأسرى.
وعند السؤال عن حق إسرائيل في احتجاز أسرى من فلسطين، كانت إجابة "شات جي بي تي" أن "إسرائيل تتمتع مثل أي دولة ذات سيادة، بسلطة احتجاز الأفراد الذين تعتقد أنهم انتهكوا قوانينها أو يشكلون تهديدا لأمنها، وهذه وظيفة أساسية للنظام القانوني داخل الدولة".
ولكن عند السؤال عن حق حركة المقاومة الإسلامية "حماس" في احتجاز أسرى من إسرائيل في إطار دفاعها عن غزة، لم نحصل على إجابة واضحة، حيث قال: "لا تَعتبر حماس الجنود الإسرائيليين أسرى حرب بالمعنى التقليدي الذي يعترف به القانون الدولي، ومن المعروف أن حماس تحتجز جنوداً أو مدنيين إسرائيليين يتم أسرهم خلال الصراعات كأوراق مساومة للمفاوضات مع إسرائيل".
وتكرر الأسلوب نفسه عند السؤال عن معاملة الطرفين للأسرى من الجانبين، فعند السؤال عن معاملة إسرائيل للأسرى، كانت الإجابة أن معاملة إسرائيل للسجناء الفلسطينيين تعتمد على عوامل مختلفة، بما في ذلك الديناميكيات السياسية والقانونية والمجتمعية، وأنه مع مرور الوقت بذل العديد من الأفراد والمنظمات والحكومات جهودا للدعوة إلى معاملة أفضل للسجناء الفلسطينيين ومعالجة المخاوف المتعلقة بظروف احتجازهم وحقوقهم القانونية والإجراءات القانونية الواجبة.
ولكن عند السؤال عن معاملة حماس للأسرى الإسرائيليين، استهل "شات جي بي تي" الإجابة بأن "حماس لها تاريخ في أسر واحتجاز جنود ومدنيين إسرائيليين، وتثير معاملة السجناء الإسرائيليين من قبل حماس القلق والجدل"، ثم أضاف "ومن المهم الإشارة إلى أن حماس ليست جهة فاعلة تابعة للدولة، وليست ملتزمة بالمعايير القانونية الدولية التي تتبعها الدول فيما يتعلق بمعاملة السجناء".
وكان أسلوب نموذجي "آي آسك إيه آي" و"بو دوت كوم" في الإجابة مختلفا، لكنهما في النهاية عكسا انحيازا واضحا، وإن كان بدرجة أقل.
فعند سؤال "آي آسك إيه آي" عن حق الطرفين في احتجاز الأسرى، كانت الإجابة فيما يتعلق بحق إسرائيل أنها "مسألة محل نقاش وآراء مختلفة"، وأعطت مساحة كبيرة للآراء المؤيدة التي تقول إن "إسرائيل تواجه تحديات أمنية وأعمال عنف، بما في ذلك الإرهاب، ومن حقها احتجاز الأفراد الذين تعتبرهم خطرين محتملين لحماية مواطنيها"، بينما اكتفت في الآراء المنتقدة بالإشارة إلى أن "بعض منظمات حقوق الإنسان تقول إن ممارسات الاعتقال الإسرائيلية تثير المخاوف بشأن انتهاكات حقوق الإنسان".
وعند سؤال نموذج الذكاء الاصطناعي "بو دوت كوم" إذا كان يحق لحماس الدفاع عن حق الشعب الفلسطيني في استقلال أراضيه، كانت الإجابة غير محددة، وتنفي عن إسرائيل صفة المحتل بتكرار استخدام عبارة "ما يعتبرونه احتلالا"، فقد قال إن "مسألة ما إذا كان لحماس الحق في الدفاع عن حق الشعب الفلسطيني في الاستقلال هي قضية معقدة ومثيرة للجدل، وتوجد وجهات نظر مختلفة إزاء هذه المسألة، وقد تختلف الآراء اعتمادا على وجهات النظر السياسية والأخلاقية والقانونية".
وأوضح أن "حماس منظمة سياسية وعسكرية إسلامية تعتبر نفسها حركة مقاومة مكرسة للقتال ضد ما تعتبره احتلالا إسرائيليا والسعي إلى تقرير المصير الفلسطيني، ويقول أنصارها إن المنظمة لها الحق في الدفاع عن الشعب الفلسطيني وأراضيه مما يعتبرونه عدوانا وقمعا إسرائيليا، ويجادلون بأن المقاومة المسلحة هي رد مشروع على ما يعتبرونه احتلالا غير عادل".
وأضاف: "ومع ذلك، فمن المهم أن نلاحظ أن المجتمع الدولي لديه وجهات نظر مختلفة فيما يتعلق بالأساليب التي تستخدمها حماس، وخاصة فيما يتعلق باستخدامها للعنف، مثل الهجمات الصاروخية والتفجيرات الانتحارية التي تسببت بوقوع خسائر في صفوف المدنيين".
ولكن عند السؤال عما إذا كان يحق للجيش الإسرائيلي استهداف حماس، تجنب نموذج الذكاء الاصطناعي في اجابته استخدام مفردات الحياد مثل تلك التي استخدمها في الإجابة السابقة، ولم يتعامل مع جيش إسرائيل على أنه جيش لدولة محتلة، وقال إن "مسألة ما إذا كان للجيش الإسرائيلي الحق في استهداف حركة حماس تعتمد على السياق والظروف المحددة لكل موقف، حيث تقول إسرائيل إن لها الحق في الدفاع عن نفسها ضد هجمات حماس التي تعتبرها منظمة إرهابية، وتعتبر إسرائيل حماس بمثابة تهديد بسبب تاريخها في إطلاق الهجمات الصاروخية، وتنفيذ تفجيرات انتحارية، والانخراط في أعمال عنف أخرى ضد المدنيين الإسرائيليين، وتؤكد أن لها الحق في القيام بعمل عسكري لحماية مواطنيها وضمان أمنها".
ولم يتطرق النموذج في استعراضه لآراء الطرف الآخر أو إلى مطالبات وقف الحرب، لكنه ركز على أن "القانون الإنساني الدولي يجب أن يوجه العمليات العسكرية بتجنب الاستهداف المتعمد للمدنيين أو الهجمات العشوائية".
التحيز الذي تكشفه إجابات نماذج الذكاء الاصطناعي في الحرب الدائرة في غزة ليست مفاجئة، إذ كشفت دراسات عدة عن تحيزات من نوع آخر تسيطر على إجابات نماذج الذكاء الاصطناعي، وأثبتتها دراسات تم تنفيذها باتباع مناهج علمية متخصصة.
فقد أكدت دراسة للباحث أوي بيترز، من برنامج فلسفة وأخلاقيات الذكاء الاصطناعي بجامعة بون الألمانية، هذا التحيز، فقد قال بيترز في مقدمة الدراسة المنشورة في مارس/آذار الماضي بدورية "فسيولوجي وتكنولوجي" إنه "يمكن لبعض أنظمة الذكاء الاصطناعي أن تعرض تحيزا خوارزميا، أي أنها قد تُنتج مخرجات تُميز بشكل غير عادل ضد أشخاص على أساس هويتهم الاجتماعية".
وكشف بحث أجراه باحثون من جامعات واشنطن وكارنيغي ميلون بأميركا وشيان جياوتونغ بالصين، وعرض في الاجتماع السنوي الـ61 لجمعية اللغويات الحاسوبية بأميركا في يوليو/تموز الماضي، عن ممارسة نماذج لغة الذكاء الاصطناعي لتحيزات سياسية مختلفة.
وأجرى الباحثون خلال الدراسة اختبارات على 14 نموذجا لغويا كبيرا، ووجدوا أن نموذجي "شات جي بي تي" و "شات جي بي تي 4" من شركة "أوبن إيه آي"، كانا أكثر ميلا في إجاباتهما إلى التوجه اليساري، في حين كان نموذج "لاما" من "ميتا" أكثر ميلا إلى التوجه اليميني المتشدد.
وتوصل الباحثون لهذه النتيجة بعد سؤال نماذج اللغة المختلفة عن موقفهم من موضوعات مختلفة مثل النسوية والديمقراطية، واستخدموا الإجابات لرسمها على رسم بياني يُعرف بـ "البوصلة السياسية".
ولم تنكر شركة "ميتا" شبهة التحيز، وقال متحدث باسم الشركة ردا على تلك الدراسة في تقرير نشره موقع "تكنولوجي ريفيو" في السابع من أغسطس/آب الماضي إن "الشركة ستعمل على تقليل التحيز، وستواصل العمل مع المجتمع لتحديد نقاط الضعف وتخفيفها بطريقة شفافة، ودعم تطوير الذكاء الاصطناعي التوليدي الأكثر أمانا".
ولا يبدو أن وعد متحدث "ميتا" سيتحقق على أرض الواقع، وفقا لما يراه خبراء.
فهذا ستيوارت راسل، أستاذ علوم الحاسوب بجامعة كاليفورنيا في بيركلي بأميركا، يُنكر وجود تحيز، لكنه يؤكد أن ذلك ليس هدفا في حد ذاته لبرامج الذكاء الاصطناعي، لأن خوارزمياتها تتعامل مع ما يدخل إليها من بيانات.
ويوضح راسل في تصريحات عبر البريد الإلكتروني أنه "على سبيل المثال، إذا كنت تقوم بتدريب نظام للتنبؤ باحتمالية سداد القرض، وفي بيانات التدريب التي ستقوم بإدخالها يفشل كل شخص ولد في يوم الثلاثاء في سداد قرضه، فإن الخوارزمية تتعلم التنبؤ بأن الأشخاص المولودين يوم الثلاثاء لا يسددون قروضهم، ومن هنا قد يبدو نظام التنبؤ هذا على أنه متحيز ضد الأشخاص المولودين يوم الثلاثاء".
ويتفق يورغن شميدهوبر -وهو مدير مبادرة الذكاء الاصطناعي في جامعة الملك عبد الله في المملكة العربية السعودية (كاوست)- مع ما ذهب إليه راسل قائلا في تصريحات عبر البريد الإلكتروني إنه "بشكل عام، فإن كلا من البشر والذكاء الاصطناعي دائما ما يكونون متحيزين بسبب بياناتهم التدريبية المحدودة".
ويوضح شميدهوبر الملقب في الأوساط العلمية والأكاديمية بأنه "أحد آباء الذكاء الاصطناعي القدامى"، أنه يمكن "توجيه" الذكاء الاصطناعي الحديث لإظهار التحيز، حيث يعتمد على تعلم الشبكات العصبية الاصطناعية (إن إن إس) المستوحاة من الدماغ البشري، فإذا قمت بتدريب هذا الشبكات مثلا لاكتشاف سرطان الثدي في الصور النسيجية، وأدخلت لها فقط بيانات من الإناث من منطقة معينة في العالم، فقد تكون النتائج المتعلقة بالبيانات الواردة من أشخاص آخرين أقل دقة.
لذلك فإن النصيحة التي يوجهها شميدهوبر لكل من يستخدم نماذج الذكاء الاصطناعي، هي التعامل معها كما نتعامل مع البشر المتحيزين بقاعدة "لا تصدق أبدا ما تراه أو تسمعه دون التحقق مرة أخرى".
