پیام خوزستان

آخرين مطالب

نگرانی دانشمندان از تعصب هوش مصنوعی «چت جی‌پی‌تی» علمي

نگرانی دانشمندان از تعصب هوش مصنوعی «چت جی‌پی‌تی»
  بزرگنمايي:

پیام خوزستان - مطالعات تأیید می‌کنند که هوش مصنوعی چت جی‌پی‌تی که محبوب‌ترین مدل زبانی هوش مصنوعی در جهان است در پاسخ‌های خود دارای تعصب است.

به گزارش آی‌ای، ‌براساس مطالعه محققان دانشگاه کالیفرنیا، برکلی، چت جی‌پی‌تی متعلق به شرکت اُپن ای‌آی(OpenAI) که در حال حاضر محبوب‌ترین مدل زبان مبتنی بر هوش مصنوعی در جهان به حساب می‌آید، در اطلاعاتی که ارائه می‌کند بی‌طرف نیست. مقاله آنها نشان می‌دهد که از آنجایی که چت جی‌پی‌تی از حجم عظیمی از مقالات دارای حق نشر به عنوان مجموعه داده‌ای که بر اساس آن آموزش یافته و پاسخ‌های خود را پایه‌گذاری می‌کند، استفاده می‌کند، سوگیری ذاتی در آن داده‌ها به نتایج چت جی‌پی‌تی نیز راه پیدا می‌کند.
محققان در مطالعه خود نوشتند که مدل‌های اُپن ای‌آی تعداد زیادی از انواع مختلف مقالات دارای حق نشر را در خود جای داده‌اند و این فرآیند تحت تاثیر تعداد دفعاتی است که قسمت‌های آن مقالات در فضای وب ظاهر می‌شوند. به این ترتیب، اطلاعات مرتبط با مقالاتی که در فرآیند آموزش بیشتر مورد استفاده قرار گرفته‌اند، نسبت به اطلاعاتی که به طور مکرر مورد استفاده قرار نگرفته‌اند، بیشتر در پاسخ‌ها گنجانده می‌شوند.
همانطور که محققان در مورد این مطالعه توضیح دادند، دقت چنین مدل‌هایی به شدت به فرکانس مشاهده اطلاعات در داده‌های آموزشی وابسته است و این، توانایی آنها در تعمیم را زیر سوال می‌برد.
یکی از نمونه‌های آن این است که کتاب‌های علمی تخیلی و فانتزی ظاهرا در فهرست کتاب‌هایی که برای آموزش استفاده می‌شوند بیش از حد استفاده شده‌اند. این یک «سوگیری درونی» ایجاد می‌کند تا آنجا که می‌توان گفت از چت جی‌پی‌تی چه نوع پاسخ‌هایی را می‌توان انتظار داشت.
این مطالعه اشاره می‌کند که کتاب‌هایی که در فهرست داده‌های آموزشی چت جی‌پی‌تی به طور غالب حضور داشته‌اند، عناوین محبوبی مانند هری پاتر، 1984، ارباب حلقه‌ها، بازی‌های گرسنگی، راهنمای مسافران مجانی کهکشان، فارنهایت 451، بازی تاج و تخت، و تپه‌های شنی را شامل می‌شوند.
آنچه در داده‌های آموزشی پیدا نمی‌کنید
در حالی که چت جی‌پی‌تی موارد زیادی در مورد مقالات موجود در حوزه عمومی می‌داند، آنچه در داده‌های آموزشی نمی‌بینید، عناوین کمتر شناخته شده‌ای مانند به اصطلاح ادبیات جهانی آنگلوافون هستند. این‌ها کتاب‌هایی هستند که برای و توسط مخاطبانی به جز کشورهای اصلی انگلیسی زبان نوشته شده‌اند.
چنین مناطقی شامل آفریقا، آسیا و کارائیب می‌شود.
برای اینکه نتایج تولید شده توسط چت جی‌پی‌تی معتبرتر باشد، محققان از مدل‌های هوش مصنوعی می‌خواهند که شرکت اُپن‌ ای‌آی در مورد داده‌های مورد استفاده در آموزش مدل‌هایش شفاف‌تر باشد. به گفته آنها دانستن اینکه یک مدل از روی چه کتاب‌هایی آموزش دیده است، برای ارزیابی چنین منابع سوگیرانه‌ای بسیار مهم است.
یکی از محققان دانشگاه برکلی در توییتی به این سوگیری بالقوه پرداخت و نوشت که با توجه به ترجیح آنها نسبت به منابع علمی تخیلی و فانتزی، برنامه‌های محبوب هوش مصنوعی احتمالا معیارهای اندازه‌گیری کاملی برای عملکرد مدل‌ها نیستند و ما باید به این فکر کنیم که تجربیات روایت چه کسی در این مدل‌ها کدگذاری شده است و چگونه بر سایر رفتارها تاثیر می‌گذارد.
استفاده از مطالب دارای حق نشر در آموزش مدل‌ها نیز انبوهی از سوالات حقوقی را ایجاد می‌کند. چه کسی دارای حق نشر متنی را که توسط چت جی‌پی‌تی ایجاد شده دارد. چت جی‌پی‌تی که خود پیش از این از روی کتاب‌های دارای حق نشر آموزش داده شده است؟ آیا مفهوم «استفاده منصفانه» در چنین موردی می‌تواند کاربرد داشته باشد؟
اگر تعدادی از افراد سعی کنند برای خروجی‌های مشابه یا یکسان توسط مدلی مانند چت جی‌پی‌تی حق نشر بگیرند، چه خواهد شد؟ از آنجایی که ماشین، انسان نیست، آیا هر چیزی که توسط آن تولید می‌شود در وهله اول دارای حق نشر است؟
سوگیری که توسط مطالعات دیگر آشکار شد
علاوه بر تحقیقات برکلی، مطالعات دیگری نیز مواردی از سوگیری را در پاسخ‌های چت جی‌پی‌تی پیدا کرده‌اند.
مطالعه‌ای که توسط گروهی در دانشگاه آنگلیا شرقی در بریتانیا انجام شد، سوگیری سیاسی را در برخی از پاسخ‌های این مدل نشان داد. هنگامی که صدها سوال در مورد اعتقادات سیاسی از این هوش مصنوعی پرسیده شد، به نظر می‌رسید چت جی‌پی‌تی بیشتر به دموکرات‌ها در ایالات متحده، حزب کارگر در بریتانیا و رئیس جمهور لولا داسیلوا(Lula da Silva) از حزب کارگران در برزیل متمایل باشد.
نویسنده اصلی آن مطالعه، دکتر فابیو موتوکی(Fabio Motoki)، از دانشکده تجارت نورویچ در دانشگاه آنگلیا شرقی، می‌گوید: وجود سوگیری سیاسی می‌تواند بر دیدگاه‌های کاربران نیز تاثیر بگذارد و پیامدهای بالقوه‌ای برای فرآیندهای سیاسی و انتخاباتی داشته باشد.
یافته‌های ما این نگرانی را تقویت می‌کند که سیستم‌های هوش مصنوعی می‌توانند چالش‌های موجود ناشی از اینترنت و رسانه‌های اجتماعی را تکرار یا حتی تقویت کنند.
در مطالعه دیگری، محققان دانشگاه واشنگتن، دانشگاه کارنگی ملون و دانشگاه شیان جیائوتنگ، 14 مدل هوش مصنوعی را تحت یک آزمون سوگیری سیاسی قرار دادند و به پاسخ‌های هر مدل به انواع مختلف 62 بیانیه سیاسی پرداختند. چیزی که آن‌ها دریافتند این بود که پاسخ‌های تولید شده توسط چت جی‌پی‌تی و نسخه جدیدتر آن موسوم به جی‌پی‌تی-4(GPT-4) چپ‌گرایانه و آزادیخواهانه بودند.
شرکت اُپن ای‌آی رویکرد خود را در یک پست شرکتی با عنوان چگونه سیستم‌ها باید رفتار کنند به اشتراک گذاشته است.
براساس این پست، در حالی که بسیاری نگران سوگیری‌ها در طراحی سیستم‌های هوش مصنوعی هستند، ما متعهد هستیم که به طور جدی به این موضوع رسیدگی کنیم و در مورد اهداف و پیشرفت خود شفاف باشیم.
این شرکت همچنین خاطرنشان می‌کند که دستورالعمل‌های ما صریح است که بازبینان نباید از هیچ گروه سیاسی حمایت کنند. آن‌ها اظهار داشتند که ممکن است سوگیری‌ها همچنان در این فرآیند ظاهر شوند، اما ادعا کردند که این‌ها اشکالات به حساب می‌آیند و جزو ویژگی‌های هوش مصنوعی آن‌ها نیستند.

لینک کوتاه:
https://www.payamekhuzestan.ir/Fa/News/795381/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

ادای احترام به شهدای حملات رژیم صهیونیستی در گلزار شهدای آستانه اشرفیه

بازدید مدیرکل ورزشی و اردویی بنیاد شهید و امور ایثارگران از مجموعه اردوگاهی صابرین در چابکسر

رهاسازی آب از سد سیمره برای تأمین حقابه پایین‌دست کرخه

مهار حریق در منطقه هارکیزه شهرستان لالی

رهاسازی آب سد سیمره برای تأمین حقابه پایین‌دست کرخه و مهار آتش‌سوزی هورالعظیم

دورکاری ادارات در برخی شهرستان‌های خوزستان

مجوز محیط‌زیستی فاز دوم پتروشیمی ماهشهر پس از ماه‌ها پیگیری صادر شد

حل بحران هورالعظیم نیازمند همکاری منطقه‌ای است

گزیده‌های نفتی هفته

افتتاح تصفیه‌خانه پساب فولاد شادگان گامی مهم در حفظ محیط زیست است

سرمایه‌گذاری شرکت‌های خوزستانی در خارج از استان خلاف عدالت است

کارشناسان دادگستری نقش کلیدی در کاهش آسیب‌های اجتماعی دارند

تصفیه‌خانه پساب صنعتی فولاد شادگان به بهره‌برداری رسید

14 شهر خوزستان در وضعیت قرمز و نارنجی آلودگی هوا

چشم‌ انتظاری برای یاسمین در سی‌ امین یادواره شهدای دودانگه ساری

دشمن تلاش می کند دستاوردهای ایران در جنگ تحمیلی 12 روزه را کوچک جلوه دهند

لزوم ساماندهی فرآیند توقیف و ترخیص وسایل نقلیه توقیفی و رسوبی در خوزستان

اجرای طرح‌های آبخیزداری در یک میلیون هکتار از اراضی کوهستانی و تپه ماهوری+فیلم

25 هزار هکتار از تالاب هورالعظیم در حصار دود و آتش

شناسایی پیکر شهید موسی اکبری پس از 41 سال

افزایش 30 درصدی ظرفیت قطار‌های اربعین حسینی

شناسایی بیش از 26 هزار بیمار دارای پرفشاری خون در دزفول

اجرای جشنواره فرهنگی زیست محیطی 100 روز با رود دز

مردانی که نفت ایران را می‌سازند

کار زیر آفتاب 50 درجه؛ مردانی که ایران را از دل زمین زنده نگه می‌دارند

رقابت 47 هزار و 251 داوطلب در آزمون سراسری 1404+فیلم

راه اندازی بازارچه‌های صنایع‌دستی در مبادی مرزی کشور

وکیل و کارشناس، دو بال قاضی در اجرای عدالت هستند

آغاز عملیات اجرایی مرحله دوم طرح آبرسانی مناطق جاده دزفول به شوشتر

رفع افت ولتاژ برق در اندیمشک با نصب و راه اندازی 9 ترانس

پیش بینی کاهش دما و وقوع گرد و خاک محلی در خوزستان

تداوم روند افزایشی قیمت نفت

دستگیری عامل بمب گذاری در شادگان

امضای تفاهم‌نامه جاده میانبر مسجدسلیمان با اعتبار 5 همت

کارگران شرکت تخته فشرده پاک چوب خوزستان مجدد مشغول به کار شدند

افتتاح تصفیه‌خانه پساب صنعتی و بهداشتی شرکت صنعت فولاد شادگان

راز تسلط چین بر بازار مواد معدنی حیاتی چیست؟

تداوم ناپایداری‌های جوی و دریایی در استان

پیام استاندار خوزستان در گرامیداشت هفته بهزیستی

پیام استاندار خوزستان به مناسبت آغاز سال نو صابئین مندایی

🎬تلاش‌ها و پیگیری‌های مستمر استاندار خوزستان جهت کاهش خاموشی‌ها در استان

ثبت دمای 50 درجه سانتی گراد و بالاتر در ١٠ نقطه خوزستان

پیکر پاک پدر شهید خادمی با حضور مدیر کل بنیاد مازندران در کیاسر ساری تشییع شد

تداوم آبرسانی اروندان به 3 شهرستان در جنوب کشور

تداوم آبرسانی اروندان به سه شهرستان در جنوب کشور

نشست رئیس اپراتور تلفن همراه کیش و مدیر مخابرات استان هرمزگان

ادعای توزیع بنزین بی‌کیفیت در قزوین رد شد

علت انتشار دود از پتروشیمی تبریز چه بود؟

تکذیب شایعه اختلاط بنزین با آب در یکی از جایگاه‌های سوخت

بیش از 220 درخواست در میز خدمت بنیاد شهید و امور ایثارگران اردبیل بررسی شد