توانایی تشخیص حالات روحی افراد پیشرفت بسیار بزرگی در حوزه‌ی تشخیص چهره محسوب می‌شود. آمازون امروز ادعا می‌کند که دقت تشخیص احساسات را در سیستم خود افزایش داده است. طبق گفته‌ی آن‌ها، هفت حالت روحی شاد، غمگین، عصبانی، شگفت‌زده، متنفر، آرام و سرگردان توسط سیستم تشخیص چهره شناسایی می‌شوند. به‌علاوه توانایی تشخیص جنسیت هم در سیستم جدید آمازون بهبود می‌یابد.به‌روزرسانی نرم‌افزار تشخیص چهره‌ی آمازون هفته‌ی پیش انجام شد. دلیل اولیه‌ی به‌روزرسانی، اضافه کردن قابلیت تشخیص محتوای خشونت‌آمیز و توهین‌آمیز بود. درواقع مهندسان شرکت تلاش کردند تا تشخیص مواردی همچون خون، زخم، سلاح، آسیب به خود، جسد و موارد توهین‌آمیز جنسی را به سیستم اضافه کنند. 

فناوری بحث‌برانگیز تشخیص چهره

شاید توانایی تشخیص ترس در چهره‌ی افراد و تصاویر، در نگاه اول مفید به نظر برسد. به‌عنوان مثال می‌توان از آن در موارد کاربردی امنیتی بهره برد. از طرفی با خواندن احساسات چهره‌ی افراد، ریسک مواردی همچون تشخیص اشتباه مجرمان افزایش می‌یابد. به‌علاوه نباید احتمال تبعیض نژادی و حتی تصمیم‌گیری‌های نژادپرستانه را نادیده گرفت. درنهایت فراموش نکنید که یک سیستم یادگیری ماشین، حداکثر به خوبی داده‌هایی عمل می‌کند که به آن تزریق می‌شوند.

توسعه‌ی فناوری هوش مصنوعی توسط غولی همچون آمازون، دقیقا زمانی انجام می‌شود که مخالفت‌های متعددی از سوی فعالان حقوق بشر و قانون‌گذاران مطرح می‌شود. آن‌ها نگرانی‌هایی را پیرامون تشخیص‌های اشتباه سیستم تشخیص چهره بیان می‌کنند که در برخی اوقات منجر به دستگیری‌های غلط در موارد قانونی می‌شود کارشناسان و فعالان حقوق بشر نگران سوء استفاده از فناوری هستند.

سیستم تشخیص چهره‌ی آمازون مبتنی برهوش مصنوعی توسعه‌ی قابل‌توجهی در سال‌های گذشته داشته است. از طرفی انتقادهای شدیدی هم به آن‌ها می‌شود؛ چرا که در یکی از موارد آزمایشی، سیستم چهره‌ی ۲۸ عضو کنگره‌ی آمریکا را با مجرمان امنیتی اشتباه گرفت. از رفتارهای بحث‌برانگیز دیگر آمازون در فناوری‌های تشخیص چهره و نظارت تصویری می‌توان به تصمیم جدید شرکت زیرمجموعه‌ی آن‌ها یعنی Ring اشاره کرد. شرکت مذکور در بازار نظارت خانگی فعالیت می‌کند و در حال مذاکره با مقام‌های قانونی است تا شهروندان را به اشتراک تصاویر دوربین‌های خود تشویق کند.

مشکلات اخلاقی آمازون

نرم‌افزار Rekognition بارها توسط سازمان‌های قانونی در ایالات متحده استفاده شده است که انتقادهای زیادی را هم به‌همراه داشت. در این‌ میان حتی برخی سازمان‌های پلیسی نگران شدند که استفاده از ابزار آمازون موجب افزایش انتقادها و نگرانی‌ها پیرامون نظارت عمومی بر مردم شود. به‌عنوان مثال نیروهای پلیس در دپارتمان منطقه‌ی اورگان درباره‌ی استفاده از سیستم‌ تشخیص چهره گفتند: ما سیستم را تنها برای شناسایی افراد از میان تصاویری استفاده می‌کنیم که از سوی دفتر مرکزی ارسال شده‌اند. منتهی این تصور ایجاد می‌شود که پلیس با بررسی تمامی فیلم‌ها و عکس‌ها، روند نظارتی جامعی را بر مردم پیاده‌سازی می‌کند.

با وجود تمام اظهارنظرها و تکذیب‌ها، نگرانی‌ پیرامون سوء استفاده از سیستم تشخیص چهره‌ی آمازون همیشه وجود دارد. به‌عنوان مثال غول تجارت الکترونیک هیچ‌گاه همکاری با اداره‌ی اعمال مهاجرت و گمرک ایالات متحده را تأیید نکرده است. ازطرفی طبق اظهارنظرهای فعالان آزادی حقوق بشر در آمریکا، آمازون فناوری خود را برای سازمان‌ها معرفی کرده‌ است؛ رویکردی که موجب اعتراض شدید فعالان حقوق بشر و حتی همکاران خودشان شد.

اتحادیه‌ی آزادی‌های شهروندی آمریکا نگرانی خود را از سوء استفاده از فناوری آمازون به‌صورت جدی اعلام می‌کند. آن‌ها به شرکت فشار می‌آورند تا فناوری مذکور را به هیچ وجه در اختیار دولت‌ها قرارندهد. به‌ هر حال با وجود احتمالی که کارشناسان متعدد به سوء استفاده از فناوری تشخیص چهره در سیستم‌های نظارت عمومی می‌دهند، آمازون همه‌ی آن‌ها را رد می‌کند. شرکت ادعا می‌کند که هیچ نفوذی به حریم خصوصی افراد صورت نمی‌دهد. آن‌‌ها در اظهارنظر پیرامون نگرانی‌های فناوری می‌گویند: اگر فناوری‌های جدید را غیر قانونی اعلام کنیم، کیفیت و شرایط زندگی مردم بسیار دشوار می‌شود. چرا که برخی افراد به‌ هر حال به‌دنبال استفاده‌ی غیر قانونی از فناوری‌ها خواهند بود.

منبع: زومیت