تکنولوژی تشخیص چهره شرکت IBM به آخر خط رسید

در پی اعتراضات گسترده در شهرهای مختلف آمریکا که پس از کشته شدن یک سیاه‌پوست توسط پلیس آمریکا رخ داده، شب گذشته آرویند کریشنا، مدیرعامل کمپانی IBM، با انتشار نامه‌ای به کنگره آمریکا اعلام کرد که این شرکت دیگر نرم‌افزارهای تشخیص یا تحلیل چهره را ارائه نخواهد داد. این شرکت همچنین اعلام کرده که آن‌ها از این به بعد در زمینه‌ی توسعه و تحقیق مربوط به این فناوری فعالیت نمی‌کنند.

در بخشی از این نامه آمده: «IBM به شدت مخالف این موضوع است و از ارائه‌ی فناوری‌های مانند تکنولوژی تشخیص چهره از طرف دیگر شرکت‌ها برای نظارت جمعی، طبقه‌بندی نژادی، نقض حقوق و آزادی‌های اساسی بشر یا هر هدفی که با ارزش‌های ما مطابقت نداشته باشد، چشم‌پوشی نخواهد کرد. ما بر این باوریم که اکنون زمان آغاز گفت‌وگوی ملی در این باره است که آیا تکنولوژی تشخیص چهره باید توسط نهادهای انتظامی داخلی به کار گرفته شود یا نه.»

طی یک دهه گذشته، نرم‌افزارهای تشخیص چهره به لطف پیشرفت‌های صورت گرفته در حوزه هوش مصنوعی، پیشرفت گسترده‌ای داشته‌اند. در عین حال، این تکنولوژی عمدتا توسط شرکت‌هایی توسعه داده می‌شوند که نظارت چندانی بر آن‌ها وجود ندارد.

تکنولوژی تشخیص چهره

به همین خاطر بخش قابل توجهی از تکنولوژی‌های موردنظر دارای تعصب در زمینه‌ی سن، نژاد و قومیت هستند که می‌توانند به ابزاری برای اجرای غیر قابل اعتماد قانون و امنیت بدل شوند و سوءاستفاده بالقوه از حقوق مدنی را امکان‌پذیر کنند.

طبق پژوهش صورت گرفته توسط موسسه ملی استانداردها و تکنولوزی در دسامبر ۲۰۱۹، شواهد زیادی در مورد تفاوت دقت این تکنولوژی برای بافت‌های جمعیتی متفاوت به دست آمده است. این فناوری همچنین به‌خاطر نقش خود در نقض حریم خصوصی هم مورد انتقاد گسترده قرار گرفته است.

باید خاطرنشان کنیم که در این پژوهش، سیستم تشخیص چهره آمازون مورد استفاده قرار نگرفته که یکی از معدود غول‌های فناوری فعال در این حوزه محسوب می‌شود. با این وجود، این سیستم هم به دلیل مشکلات در دقت مورد انتقاد قرار گرفه است.

از دیگر شرکت‌های پرسروصدا مربوط به این حوزه می‌توانیم به Clearview AI اشاره کنیم که مدتی قبل مشخص شد برای تعلیم سیستم تشخیص چهره خود، از ۳ میلیارد عکس کاربران در شبکه‌های اجتماعی استفاده کرده و این سیستم را در اختیار شرکت‌ها و نهادهای انتظامی خصوصی قرار می‌دهد. از آن زمان، این شرکت در مرکز شکایت‌های متعددی قرار گرفته است. فیسبوک هم در ماه ژانویه به دلیل استفاده غیرقانونی از سیستم تشخیص چهره خود به پرداخت ۵۵۰ میلیون دلار غرامت محکوم شد.

تکنولوژی تشخیص چهره

IBM از جمله شرکت‌هایی است که تلاش کرده تعصب در سیستم‌های تشخیص چهره را کاهش دهد و در همین رابطه، در سال ۲۰۱۸ مجموع داده‌ای برای تعلیم این سیستم‌ها به‌صورت عمومی منتشر کرد. اما در ژانویه ۲۰۱۹ مشخص شد که IBM یک میلیون عکس گرفته شده از سایت Flickr را بدون رضایت افراد به اشتراک گذاشته که البته چنین کاری با بهره‌گیری از «اجازه‌نامه‌ی مشترکات خلاقانه» انجام شده است.

IBM در آن زمان بیانیه‌ای منتشر کرد و گفت این مجموعه داده‌ها تنها توسط محققان تایید شده این شرکت مورد استفاده قرار می‌گیرد و تنها شامل تصاویری است که در دسترم عموم قرار داشته‌اند. همچنین این امکان فراهم شد که افراد بتوانند تصاویر خود را از این مجموعه داده‌ها خارج کنند.

آقای کریشنا در نامه خود همچنین از اصلاحات سیستم پلیس دفاع کرده و اظهار داشته که بیش از پیش سوءرفتار ماموران پلیس باید تحت نظرات دادگاه فدرال قرار بگیرد و کنگره هم باید در میان اقدامات مختلف، شرایط مربوط به مصونیت قضایی ماموران پلیس را تغییر دهد.

ارسال دیدگاه