خلاصههای هوش مصنوعی گوگل با ارائه توصیههای نادرست پزشکی، سلامت مردم را به خطر میاندازد
بر اساس یک تحقیق اختصاصی روزنامه گاردین، خلاصههای تولیدشده توسط هوش مصنوعی گوگل (Google AI Overviews) در برخی موارد حاوی اطلاعات نادرست و گمراهکننده پزشکی بوده و میتواند سلامت کاربران را بهطور جدی به خطر بیندازد.
به گزارش مدرن مد، گوگل پیشتر اعلام کرده بود که قابلیت «AI Overviews» که با استفاده از هوش مصنوعی مولد، خلاصهای از اطلاعات کلیدی درباره موضوعات مختلف ارائه میدهد، «مفید و قابلاعتماد» است. با این حال، یافتههای گاردین نشان میدهد برخی از این خلاصهها که در بالای نتایج جستوجو نمایش داده میشوند، حاوی اطلاعات نادرست پزشکی هستند.
در یکی از مواردی که کارشناسان آن را «بسیار خطرناک» توصیف کردهاند، هوش مصنوعی گوگل بهاشتباه به بیماران مبتلا به سرطان پانکراس توصیه کرده بود از مصرف غذاهای پرچرب خودداری کنند. متخصصان تأکید کردهاند این توصیه دقیقاً برخلاف راهنماییهای پزشکی صحیح است و میتواند خطر مرگ بیماران را افزایش دهد.
در نمونهای دیگر که «نگرانکننده» خوانده شده، اطلاعات نادرستی درباره آزمایشهای حیاتی عملکرد کبد ارائه شده بود؛ اطلاعاتی که ممکن است باعث شود افراد مبتلا به بیماریهای جدی کبدی، بهاشتباه تصور کنند وضعیت سلامتی طبیعی دارند.
همچنین جستوجوهای مربوط به آزمایشهای سرطانهای زنان، اطلاعاتی «کاملاً غلط» نمایش داده که به گفته متخصصان میتواند باعث نادیدهگرفتن علائم واقعی بیماری شود.
سخنگوی گوگل در واکنش اعلام کرد بسیاری از نمونههای ارائهشده «اسکرینشاتهای ناقص» بودهاند، اما بر اساس بررسیهای انجامشده، این خلاصهها به «منابع معتبر و شناختهشده» لینک داده و کاربران را به دریافت مشاوره تخصصی توصیه میکنند.
این گزارش در شرایطی منتشر میشود که نگرانیها درباره اتکای بیشازحد کاربران به دادههای تولیدشده توسط هوش مصنوعی رو به افزایش است. پیشتر نیز مطالعاتی نشان داده بود چتباتهای هوش مصنوعی در زمینههایی مانند مشاوره مالی و خلاصهسازی اخبار، اطلاعات نادرست ارائه میدهند.
سوفی رندال، مدیر «انجمن اطلاعات بیماران» بریتانیا، گفت: «نمونههای ارائهشده نشان میدهد که خلاصههای هوش مصنوعی گوگل میتوانند اطلاعات نادرست پزشکی را در بالاترین جایگاه نتایج جستوجو قرار دهند و این موضوع خطری جدی برای سلامت مردم است.»
استفانی پارکر، مدیر دیجیتال مؤسسه خیریه «مری کوری»، نیز هشدار داد: «مردم در لحظات نگرانی و بحران به اینترنت مراجعه میکنند. اگر اطلاعاتی که دریافت میکنند نادرست یا خارج از زمینه باشد، میتواند آسیب جدی به سلامت آنها وارد کند.»
در ادامه این تحقیق، چندین نهاد خیریه و متخصص حوزه سلامت نیز نسبت به توصیههای نادرست درباره سرطان پانکراس، آزمایشهای کبدی، سرطان واژن و حتی اختلالات سلامت روان مانند روانپریشی و اختلالات خوردن ابراز نگرانی کردهاند. به گفته آنان، برخی از این توصیهها «نادرست، خطرناک و بازدارنده از مراجعه به پزشک» هستند.
گوگل در پایان اعلام کرد که اکثریت قریببهاتفاق خلاصههای هوش مصنوعی این شرکت دقیق و مفیدند و این فناوری بهطور مداوم در حال بهبود کیفیت است. این شرکت افزود در مواردی که خطا یا سوءبرداشت از محتوا رخ دهد، مطابق با سیاستهای خود اقدام اصلاحی انجام خواهد داد.
