اخبار فناوری اطلاعات


انتقاد متخصصان از سوگیری نژادی دستیارهای هوشمند


گزارش‌ها حاکی از آن هستند که محققان اختلافات نژادی قابل‌توجهی را در سیستم‌های تشخیص گفتار  پنج شرکت بزرگت فناوری جهان تشخیص داده‌اند. به گزارش ایتنا و به نقل از  engadget، گزارش‌های به‌دست‌آمده از پژوهشی از دانشگاه استنفورد حاکی از آن است که خطاهایی که از دستیارهای هوشمند کمپانی‌های آمازون،اپل، گوگل، ای‌بی‌ام و مایکروسافت سر می‌زند در مورد کاربران سیاه‌پوست بسیار بیشتر از سفیدپوست‌ها است. میانگین به‌دست‌آمده از هر پنج کمپانی نشان می‌دهد که این سیستم‌ها حدود 19 درصد از مواقع سخنان افراد سفیدپوست را به‌صورت نادرست تشخیص می‌دهند اما این رقم در مورد سیاه‌پوستان 35 درصد می‌رسد. تقریباً دو درصد از صدای افراد سفیدپوست غیرقابل‌خواندن تلقی می‌شود و این در حالی است که این میزان برای سیاه‌پوستان به 20 درصد افزایش می‌یابد.   این مطالعه نشان می‌دهد که این سیستم‌های تشخیص گفتار ممکن است دارای نقص باشند زیرا فناوری آن‌ها بر اساس داده‌های متنوع و متناسب آموزش نمی‌گیرد. نیویورک‌تایمز در این رابطه از پنج کمپانی یادشده سوال کرد ولی از میان آن‌ها تنها گوگل در این رابطه اعلان کرد که:«ما چندین سال است که روی چالش تشخیص دقیق تغییرات گفتار کار می‌کنیم و به این کار ادامه خواهیم داد.» این تحقیق جدیدترین موضوع برای برجسته کردن مشکل سوگیری‌های هوش مصنوعی است. تحلیلگران دریافته‌اند که تشخیص چهره تمایلات نژادی و جنسیتی را نشان می‌دهد و آزمایش‌های جداگانه به‌طور مداوم نشان داده‌اند که روبات‌های چت می‌توانند به‌سرعت تحت تأثیر رفتارهای جنسی و نژادپرستانه قرار بگیرند. بر همین اساس محققان سال گذشته هشدار دادند كه هوش مصنوعی در آستانه «فاجعه تنوع‌پذیری» است. نیویورک‌تایمز در این رابطه گزارش کرده است که کمپانی‌های ارائه‌دهنده این سیستم‌ها با یک مشکل اساسی روبرو هستند. اگر سرویس آن‌ها بیشتر توسط افراد سفیدپوست مورداستفاده قرار بگیرد در جمع‌آوری اطلاعات برای خدمت‌رسانی به سیاه‌پوست‌ها با مشکل روبرو می‌شوند و همین امر موجب می‌شود که سرویس آن‌ها برای باقی افراد به‌غیراز سفیدها غیر استفاده باشد. 
کد خبر: PSIT-https:www.itna.irnews60331ان

۳/۳۱/۲۰۲۰   | ۳۴


نماد اعتماد الکترونیک
back to top