پیام خوزستان

آخرين مطالب

انسان‌ها سوگیری یادگیری ماشینی را بیشتر از سوگیری خود تشخیص می‌دهند علمي

انسان‌ها سوگیری یادگیری ماشینی را بیشتر از سوگیری خود تشخیص می‌دهند
  بزرگنمايي:

پیام خوزستان - ایسنا /یک پژوهش جدید نشان می‌دهد که افراد سوگیری تصمیم‌های الگوریتم‌ یادگیری ماشینی را بیشتر از سوگیری تصمیم‌های خودشان تشخیص می‌دهند. شاید بتوان از این ویژگی برای اصلاح سوگیری‌های انسان استفاده کرد.
از برنامه‌هایی که تماشا می‌کنیم تا افرادی که استخدام می‌کنیم، الگوریتم‌ها به طور فزاینده‌ای در زندگی روزمره ما ادغام می‌شوند و بی‌سروصدا بر تصمیم‌هایی که می‌گیریم اثر می‌گذارند.
به نقل از ادونسد ساینس نیوز، هسته الگوریتم‌ها، مجموعه‌ای از قوانین یا دستورالعمل‌هاست که برای پردازش اطلاعات و به دست آوردن یک نتیجه خاص طراحی شده‌اند اما از آنجا که الگوریتم‌ها از الگوهای رفتاری انسان یاد می‌گیرند، می‌توانند سوگیری‌هایی را که درون ما وجود دارند، منعکس یا حتی تقویت کنند. با وجود این، یک پژوهش جدید نشان می‌دهد که این ممکن است زیاد بد نباشد.
«کری موروج»(Carey Morewedge) استاد «دانشگاه بوستون»(Boston University) معتقد است که این بازتاب می‌تواند نقاط کور سوگیری ما را روشن کند و در اصلاح رفتار نقش داشته باشد. الگوریتم‌های یادگیری ماشینی بسیار موفق هستند زیرا می‌توانند بی‌طرفانه الگوها را در مجموعه داده‌ها پیدا کنند اما در عین حال، سوگیری‌های انسانی را نیز در داده‌های آموزشی خود لحاظ کنند.
هنگامی که این سوگیری‌ها در الگوریتم‌ها شناسایی می‌شوند، می‌توانند به آشکارسازی سوگیری‌های بلندمدت در سازمان‌ها کمک کنند. به عنوان مثال، شرکت «آمازون»(Amazon) سوگیری جنسیتی را در شیوه‌های استخدام خود بررسی نکرده بود اما با آزمایش یک الگوریتم که رزومه‌های جدید را براساس شیوه‌های پیشین استخدام شرکت ارزیابی می‌کرد، به این موضوع پی برد.
موروج گفت: الگوریتم‌ها می‌توانند سوگیری‌های انسانی را کدگذاری و تقویت کنند اما سوگیری‌های ساختاری را نیز در جامعه ما نشان می‌دهند.
انسان‌ها سوگیری‌های خود را تشخیص نمی‌دهند
موروج و گروهش در پژوهش خود نشان دادند که افراد معمولا تمایل بیشتری را به تشخیص دادن و تصحیح کردن سوگیری‌های موجود در تصمیم‌گیری الگوریتم در مقایسه با تصمیم‌گیری خودشان دارند. آنها باور دارند که با دانستن این موضوع ممکن است بتوان از الگوریتم‌ها برای رسیدگی به سوگیری‌های موجود در تصمیم‌گیری‌ها استفاده کرد.
انسان‌ها به دلیل پدیده‌ای به نام «نقطه کور سوگیری»، برای دیدن سوگیری خود تلاش زیادی نمی‌کنند و بیشتر متوجه سوگیری افراد دیگر هستند. دلیل این است که ما می‌توانیم در فرآیندهای تصمیم‌گیری خود، سوگیری را توجیه کنیم یا برای آن بهانه بیاوریم. برای ناظری که هیچ اطلاعاتی درباره فرآیند فکری یا چگونگی تصمیم‌گیری ندارد، سوگیری‌ها واضح‌تر و بهانه‌جویی دشوارتر است.
موروج و همکارانش در این پژوهش نشان دادند که حتی وقتی الگوریتم‌ها براساس رفتارهای ما آموزش داده می‌شوند نیز این موضوع صادق است.
تشخیص دادن سوگیری در الگوریتم ساده‌تر است
پژوهشگران در یک مجموعه آزمایش، از شرکت‌کنندگان خواستند تا سرویس «ایربی‌ان‌بی»(AirBnB) و رانندگان «لیفت»(Lyft) را براساس معیارهای تشخیصی مانند تعداد ستاره‌ها، ارزیابی‌ها و مدت زمان حضور داشتن کنار راننده رتبه‌بندی کنند.
پژوهشگران معیارهای غیرتشخیصی مانند تصویر یا نام را که هیچ ارتباطی با کار ندارند، دستکاری کردند. شرکت‌کنندگان دو بار رتبه‌بندی را انجام دادند و سپس، رتبه‌بندی‌های آنها یا رتبه‌بندی الگوریتم آموزش‌داده‌شده نشان داده شد.
گاهی اوقات رتبه‌بندی خود شرکت‌کنندگان به آنها نشان داده می‌شد اما به آنها گفته می‌شد که رتبه‌بندی الگوریتم است. در همه سناریوها، شرکت‌کنندگان در مقایسه با الگوریتم‌ها سوگیری کمتری را در رتبه‌بندی‌های خود مشاهده کردند.
موروج گفت: مردم وقتی معتقدند که رتبه‌بندی‌ها توسط یک الگوریتم انجام شده است، تمایل بیشتری به سوگیری دارند. این در حالی است که ما در واقع الگوریتم را روی داده‌های آنها آموزش می‌دهیم و رتبه‌بندی الگوریتم براساس آن داده‌ها صورت می‌گیرد.
وی افزود: این به این معنا نیست که مردم انواع بیشتری از ویژگی‌ها را در الگوریتم‌ها می‌بینند، بلکه چیزهایی را می‌بینند که برای خودشان تهدیدکننده‌تر است. بیشتر مردم نمی‌خواهند از نژاد در رتبه‌بندی‌های خود استفاده کنند یا می‌خواهند نژاد را در آن رتبه‌بندی نادیده بگیرند. بنابراین، این ایده که نژاد بر آن رتبه‌بندی‌ها تأثیر گذاشته، تهدیدکننده است.
در نتیجه، از آنجا که سوگیری در یک الگوریتم به عنوان تصمیم‌گیری ناقص خود ما تلقی نمی‌شود، دیدن یا اعتراف کردن به وجود آن آسان‌تر است. به گفته موروج، این یافته دو روش را ارائه می‌دهد که الگوریتم‌ها به واسطه آن می‌توانند به انسان در کاهش سوگیری کمک کنند.
وی افزود: یک روش این است که تصمیم‌های خود را جمع‌آوری کنید و الگوها را ببینید که به شما کمک می‌کنند تا سوگیری را تشخیص دهید اما هنوز موانعی بر سر راه توانایی ما برای تشخیص دادن سوگیری‌ها وجود دارد. ما انگیزه‌هایی را برای محافظت از خود داریم.
موروج و گروهش با پیروی از این منطق، آزمایش دیگری را انجام دادند تا ببینند آیا احتمال بیشتری وجود دارد که شرکت‌کنندگان به اصلاح سوگیری در رتبه‌بندی‌های خود یا الگوریتم بپردازند. پس از مشاهده رتبه‌بندی‌ها، به شرکت‌کنندگان فرصت داده شد تا سوگیری را اصلاح کنند و احتمال بیشتری وجود داشت که اصلاحاتی را در رتبه‌بندی الگوریتم انجام دهند. موروج گفت: از آنجا که افراد سوگیری را بیشتر در رتبه‌بندی الگوریتم می‌بینند تا خودشان، احتمال بیشتری وجود دارد که رتبه‌بندی‌های الگوریتم را اصلاح کنند.
موروج اذعان داشت که این پژوهش هنوز در مراحل اولیه است اما او روش ملموسی را می‌بیند که از طریق آن می‌توان یافته‌ها را در آموزش دادن الگوریتم برای جلوگیری از سوگیری در دنیای واقعی ادغام کرد. وی افزود: اولین گام این است که افراد سوگیری‌های خود را بفهمند و آنها را ببینند. من فکر می‌کنم این الگوریتم‌ها، روش سودمندی برای ارائه دادن یک دیدگاه واقعی‌تر به افراد درباره میزان سوگیری آنها هستند.
این پژوهش در مجله «PNAS» به چاپ رسید.

لینک کوتاه:
https://www.payamekhuzestan.ir/Fa/News/859446/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

فلاحت‌پیشه: سال 97 گفتم بشار اسد روزی از پشت به ایران خنجر خواهد زد

اثاث‌کشی قالیباف به دفتر جدید؟

روایتی از آموزش هسته‌های اولیه حزب‌الله و حشدالشعبی توسط سردار حاج‌رحیمی

آذربایجان‌ شرقی دومین استان موزه‌ای ایران

آزادی 100 زندانی کرمانشاه به مناسبت سالروز ولادت امام رضا(ع)

تظاهرات شهرک‌نشینان برای برکناری «نتانیاهو»

هیچی تو زندگی ارزش مردن رو نداره!

تولد بامزه عروسک‌های مهمانی برای آقای مجری

تو جریان داری که من نبضم هنوزم میزنه

تصویر شگفت انگیز جیمز وب از کهکشانِ Zwicky 18

تقدیر سردار شاهوارپور فرمانده سپاه حضرت ولی عصر (عج) استان خوزستان از تلاش های دکتر امین امرایی مدیر عامل شرکت پتروشیمی مارون

جسد سبحان پنج‌ساله بعد از 27 روز پیدا شد

وضعیت قرمز آلودگی در 3 شهر خوزستان

تیم سابق بیرانوند میلی‌متری از سقوط فرار کرد

پیروزی 6-0 در الدترافورد؛ زنان چلسی بر بام انگلیس

اعتراف ملی‌پوش ایران بعد از باخت سوم: زورمان نرسید

پائز و یک دردسر شیرین در تیم ملی والیبال

وداع با رویس؛ بوسه طولانی خداحافظی

رکورد سرعت ایران توسط رضا علیپور جابه جا شد

تازه‌ترین خبرها از قیمت دلار، سکه و بازار سهام

وظیفه ما در برابر ترس!

دیدار سفیر ایران در عربستان با امیرعبداللهیان

انتقاد نماینده مجلس از مخالفان تعطیلی شنبه‌ها: اینکه روز خدا را به یک کشور دشمن نسبت بدهیم، درست نیست

عبدی خطاب به رئیسی: نمی‌شود سلطان سکه را اعدام کنید اما نوبت به وزیر خودتان که رسید، همه چیز غیرشفاف شود

خودمان را به کنست می‌رسانیم/تنها راه بازگرداندن اسرا توقف جنگ است

محکوم به قصاص در شهرستان باوی از چوبه‌دار رهایی یافت

خریداری حدود 1.4 میلیون تن گندم از کشاورزان خوزستانی

ساخت وسازهای غیر مجاز در دزفول قلع و قمع شدند

هوا در خوزستان گرم‌تر می‌شود/ احتمال وقوع گرد و خاک در استان

سردرگمی دانش آموزان خوزستان از عدم صدور کارت ورود به جلسه امتحانات نهایی

افتتاح نمایشی و تبلیغاتی پروژه‌های تکمیل نشده، تخلف و قابل رسیدگی است

بازداشت عاملان تیراندازی غیرمجاز در آبادان

برخورد با متخلفان سوزاندن کاه و کلش در خوزستان

چرایی استفاده از جنگنده برای ترور در جنین؛زوال سلطه اسرائیل

نزاع دسته‌جمعی در اهواز / 14 نفر بازداشت شدند

حماسه آزاد سازی خرمشهر نقطه عطفی در تاریخ دفاع مقدس بود

پایان رقابت‌های فوتسال کارگری

کشف سلاح جنگی و شکاری غیرمجاز در شوش

146 نقطه حادثه خیز در اهواز شناسایی شد

برخورد قانونی با عاملان سوزاندن کاه و کلش در خوزستان می‌شود

ارائه مهارت‌های فنی و حرفه‌ای به بیش از 13 هزار دانش‌آموز خوزستان

بازداشت 14 نفر در یک نزاع دسته جمعی در اهواز

کتاب‌خوانی باید باهوده باشد

زادگاه امام راحل میزبان برنامه‌های 14 و 15 خرداد

اعلام زمان برگزاری مراسم یادبود زری خوشکام

سقف خانه پدریت سقف امن زندگی منه

سفر‌های گردشگری فضایی راه‌اندازی می‌شود

واریز حقوق اردیبهشت ماه بازنشستگان کشوری

بونجاح و پرسپولیس؛ شایعه یا واقعیت؟!

تفاوت ایران و برزیل از نگاه کاپیتان رقیب