ساو باولو، البرازيل – بينما تستعد مدينة ساو باولو لطرح الآلاف من كاميرات المراقبة مع التعرف على الوجه ، يثير الخبراء مخاوف بشأن الاستخدام العشوائي لهذه التكنولوجيا في المدن الكبرى البرازيلية يمكن أن يؤدي إلى تفاقم المشاكل مثل العنصرية الهيكلية وعدم المساواة ، بينما يشكل أيضًا مخاطر على خصوصية البيانات والأمن السيبراني.
مشروع سمارت سامبا هو الأحدث ضمن سلسلة من المبادرات التي تنطوي على تقنيات المراقبة الحديثة في مختلف الولايات البرازيلية. إنه مهم نظرًا لحجم السكان الهائل الذي سيؤثر عليه: ساو باولو ، المدينة الأكثر اكتظاظًا بالسكان في نصف الكرة الجنوبي ، تضم 12 مليون شخص.
يهدف المشروع إلى طرح منصة مراقبة بالفيديو واحدة تدمج وتدعم عمليات خدمات الطوارئ والمرور وشبكة النقل العام بالمدينة وقوات الشرطة. بحلول عام 2024 ، سيتم تركيب ما يصل إلى 20000 كاميرا ، وسيتم دمج عدد متساوٍ من الكاميرات الخاصة بطرف ثالث وكاميرات خاصة في الشبكة.
ستمكن الكاميرات الجديدة المدينة من مراقبة المدارس والممارسات الطبية والأماكن العامة مثل الساحات والحدائق ، فضلاً عن محتوى وسائل التواصل الاجتماعي ذي الصلة بالإدارة العامة.
إن الجمع بين التحليلات في الوقت الفعلي وتقنية التعرف على الوجه – التي تكتشف وتقارن الوجوه في مساحة معينة باستخدام خوارزميات الذكاء الاصطناعي – تهدف إلى تسريع عملية تحديد المجرمين المطلوبين ، والسيارات المسروقة ، والأشخاص المفقودين ، والأشياء المفقودة ، و إدارة النقل العام عبر المدينة.
نأمل أن ننتهي من عملية التعاقد [for Smart Sampa] قال ريكاردو نونيس ، عمدة ساو باولو ، خلال إعادة إطلاق عملية المناقصة في مايو ، “في أقرب وقت ممكن ، لأنه سيعزز بشكل كبير الأمن والتنقل في المدينة”.
هناك حاجة ماسة إلى التحسينات في كلا المجالين ، وقد ارتفعت الشكاوى حول فترات الانتظار المفرطة من مستخدمي الحافلات إلى هيئة النقل بالمدينة بنسبة 42 بالمائة في الربع الأول من عام 2023 وتشير البيانات الواردة من إدارة الأمن الحضري إلى زيادة بنسبة 35.7 بالمائة في عمليات السطو في المدينة. 2023 بالنسبة لعام 2021.
من خلال البيانات في الوقت الفعلي من الكاميرات والخوارزميات ، تتوقع المدينة أن تتنبأ بالأحداث وتتصرف وفقًا لها بشكل أسرع. كما يأمل في توقع أنماط حركة المرور ونقاط الازدحام المحتملة واستخدام الأفكار لتعديل جداول الحافلات ، على سبيل المثال.
على الرغم من جاذبية تقنيات المراقبة عن بعد في حل مشاكل المدينة ، يخشى منتقدو سمارت سامبا أن ينتهك المشروع حقوق الإنسان الأساسية للمواطنين ، بما في ذلك الخصوصية وحرية التعبير والتجمع وتكوين الجمعيات.
أدت هذه المخاوف إلى تعليق عملية المناقصة في مناسبتين ودفعت التحقيقات من قبل المدعين العامين في المزالق المحتملة للمشروع في مجالات تشمل خصوصية المواطن.
تم السماح باستمرار عملية التعاقد بعد أن خلصت محاكم ساو باولو إلى عدم وجود أدلة كافية لإثبات تحيز النظام ضد الأفراد السود. قدمت PK9 ، وهي شركة تقنية مقرها ساو باولو ، عرضًا شهريًا بقيمة 9.2 مليون ريال برازيلي (1.8 مليون دولار) لتشغيل النظام على مدار 60 شهرًا.
المخاطر على البرازيليين السود
تتعلق إحدى القضايا الرئيسية التي أبرزها الخبراء فيما يتعلق بـ Smart Sampa بالعواقب السلبية التي يمكن أن يولدها النظام ، لا سيما بالنسبة لمجموعات مثل مجتمع السود ، الذي يشكل 56 في المائة من سكان البرازيل ، وفقًا للمعهد البرازيلي للجغرافيا والإحصاء (IBGE) . يجادل الخبراء بأن المشروع يمكن أن يقوض الحق في عدم التمييز ويتحدى مبدأ افتراض البراءة.
وفقًا لفرناندا رودريغيز ، محامية الحقوق الرقمية ومنسقة الأبحاث في معهد الأبحاث على الإنترنت والمجتمع (IRIS) ، فإن تقنية التعرف على الوجه لديها القدرة على أن تؤدي إلى نتائج إيجابية خاطئة – مطابقة وجه الشخص بشكل خاطئ مع صورة في قاعدة البيانات – و دفع السجن الجماعي للأفراد السود نتيجة لذلك.
قال رودريغيز: “بالإضافة إلى مخاطر أن المعلومات التي يتم تغذيتها على هذه المنصات قد لا تكون دقيقة وأن النظام نفسه قد يفشل ، هناك مشكلة تسبق الآثار التكنولوجية ، وهي العنصرية”.
“نحن نعلم أن نظام العقوبات في البرازيل انتقائي ، لذلك يمكننا أن نستنتج ذلك [use of surveillance with facial recognition] كل شيء عن زيادة المخاطر والأضرار التي يتعرض لها هؤلاء السكان “، أضاف رودريغيز ، في إشارة إلى التمثيل المرتفع للأفراد السود في السجون البرازيلية ، والذين يمثلون أكثر من 67 بالمائة من السكان المسجونين ، وفقًا لبيانات عام 2022 من منتدى الأمن العام البرازيلي.
كشفت دراسة أجراها مركز دراسات الأمن العام والمواطنة (CESeC) ، الذي يراقب تأثير استخدام التعرف على الوجه من قبل الشرطة في جميع أنحاء البلاد ، أن أكثر من 90 في المائة من الأفراد الذين تم القبض عليهم من خلال قرارات تستند إلى التعرف على الوجه في البرازيل هم من السود. في ولاية ريو دي جانيرو ، بلغت نسبة الاعتقالات غير العادلة التي تستند إلى التعرف على الصور الفوتوغرافية وتشمل أفرادًا سود 81 في المائة في عام 2021 ، وفقًا لبيانات من غرفة الدفاع العام في ريو دي جانيرو.
مشكلة أخرى تتعلق بعدم الانفتاح فيما يتعلق بالمشروع. إحدى المنظمات التي تقف وراء الحملة الوطنية “خذ وجهي بعيدًا عن هدفك” وغيرها من المبادرات التي تدعو إلى حظر التعرف على الوجه ، تشارك CESeC وغيرها من الهيئات غير الربحية في عدد من الإجراءات القانونية ضد الحكومات التي تختار طرح التكنولوجيا للأمن الحضري وأغراض أخرى.
في العام الماضي ، عقد مجلس مدينة ساو باولو استشارة عامة افتراضية على مدار الأسبوعين الأخيرين من شهر أغسطس ، حيث دعا الخبراء إلى المساهمة بآرائهم ، مع تخصيص يوم واحد للناس للإجابة على استفساراتهم.
قالت سيلينا بوتينو ، مديرة المشروع في معهد التكنولوجيا والمجتمع في ريو دي جانيرو: “كانت المشاركة محدودة وتم تجاهل الاقتراحات المقدمة إلى حد كبير”.
استجابةً للتراجع العام ، تم تحديث مناقصة Smart Sampa بدراسة حول تأثير التكنولوجيا ، والتي أقرت بأوجه القصور مثل الاحتمال الكبير للتحيز في ميزات التعرف على الوجه ، فضلاً عن مخاطر الاستخدام غير المصرح به والتعرض لـ البيانات الشخصية ، فضلاً عن احتمال حدوث انتهاكات للخصوصية.
ولمعالجة هذه المخاطر ، أشار التقرير إلى أن المنصة ستأخذ في الاعتبار الاكتشافات بنسبة 90 بالمائة فقط ، وسيتم تحليل جميع التنبيهات الصادرة من قبل موظفين مدربين للتخفيف من الظلم ، بالإضافة إلى نظام متقدم لحماية البيانات والتحكم في الوصول.
يدعو للتعليق
أطلق مكتب المحامي العام في ساو باولو دعوى قضائية مدنية في مايو ، جنبًا إلى جنب مع مختبر السياسة العامة والإنترنت (LAPIN) و Uneafro Brasil ، بدعم من Rede Liberdade ، وهي شبكة من المهنيين القانونيين الذين يعملون مع منظمات حقوق الإنسان. تدعو الحالة الجارية إلى تعليق المشروع ووقف استخدام أنظمة التعرف على الوجه من أجل السلامة الحضرية.
“التعرف على الوجه عبارة عن تقنية معقدة ذات جوانب لم يتم تحديدها بالكامل بعد ، مما يجعلها غير متوافقة مع عملية المناقصة ، نظرًا لأن [this format] لا يسمح بالشفافية والمشاركة المطلوبة. وقالت المنظمات في بيان إن هذا ينطوي على سلسلة من المخاطر على الحقوق الأساسية للسكان المستضعفين ، مثل السود والمتحولين جنسيا ، وكذلك الأطفال.
تجادل الدعوى المدنية أيضًا بأن دراسة التأثير تفتقر إلى الآراء والدراسات التفصيلية حول الأضرار المحتملة للتكنولوجيا ، فضلاً عن طرق التغلب على المخاطر: “لا تقدم قاعة المدينة سوى جوانب محددة حول تأثيرات برنامج Smart Sampa ، التي نادرا ما تمت مناقشتها مع المجتمع المدني والمؤسسات الأخرى “، يقول المدافع العام سريالي يوسف.
حتى إذا تم اختيار مورد بالفعل ، فقد يتم تعليق الخدمة في أي وقت إذا تم العثور على انتهاكات لحقوق أو مبادئ الإدارة العامة ، كما تقول المدافعة العامة سيسيليا ناسيمنتو فيريرا.
وتضيف: “مع ذلك ، سعى الإجراء القضائي إلى تجنب إنفاق الأموال العامة على تقنية متهورة يتم التعاقد عليها من خلال طريقة غير مناسبة نظرًا لتعقيد الخدمة”.
لم تستجب حكومة ساو باولو لطلبات قناة الجزيرة لإجراء مقابلة.
في أماكن أخرى من الأمريكتين ، اعتبرت الأرجنتين المجاورة للبرازيل أن استخدام التعرف على الوجه في عاصمتها بوينس آيرس غير قانوني العام الماضي. في الولايات المتحدة ، راجعت عدة ولايات موقفها لحظر التعرف على الوجه لدعم الخدمات العامة ، على الرغم من أن التكنولوجيا لا تزال في الغالب غير منظمة. من ناحية أخرى ، تقدم اعتماد التكنولوجيا في دول في جميع أنحاء العالم ، مثل الصين والهند ، وإن لم يكن ذلك بدون انتقادات.
يقول بابلو نونيس ، عالم السياسة والمنسق في CESeC: “يبدو أن العوامل بما في ذلك الشفافية والمساءلة في تطبيق هذه التقنيات الجديدة قد نسيها صناع القرار في جميع أنحاء العالم”. “حتى في حالة عدم حدوث حظر ، آمل أن يكون لدينا الحد الأدنى من الإجراءات الوقائية واللوائح المعمول بها لاستخدام التعرف على الوجه في البرازيل.”
