سازمان غذا و داروی آمریکا انجام میدهد؛
بررسی خطرات چتباتهای درمانی و تنظیم مقررات جدید
در حالی که گزارشهای منفی درباره ابزارهای هوش مصنوعی مکالمهمحور (چتبات) در حال افزایش است، کمیته مشورتی سازمان غذا و داروی ایالات متحده (FDA) قصد دارد تشکیل جلسه دهد تا درباره موضوعی حساس و پیشتر کمتر مورد بحث قرار گرفته گفتوگو کند: نحوه تنظیم مقررات برای هوش مصنوعی در حوزه سلامت روان.
به گزارش مدرن مد به نقل از statnews، این نشست که توسط کمیته مشورتی سلامت دیجیتال FDA (DHAC) برگزار میشود، به بررسی جزئیات فنی و چالشهای نظارتی پیرامون چتباتهای درمانی و سایر ابزارهای سلامت روان که از هوش مصنوعی مولد (Generative AI) استفاده میکنند اختصاص دارد.
هدف اصلی این جلسه، تعیین چارچوبی مشخص برای چگونگی نظارت بر دستگاهها و نرمافزارهای پزشکی مبتنی بر مدلهای هوش مصنوعی نوین، از جمله مدلهای زبانی بزرگ (LLM) است — مدلهایی که خروجی آنها به شکل مکالمات انسانی تولید میشود و گاهی میتواند غیرقابل پیشبینی، نادرست یا حتی آسیبزا برای بیماران باشد.
به گفته مقامات FDA، بخش عمده نشست به استماع نظرات عمومی و بررسی سناریوهای مختلف درباره یک دستگاه فرضی موسوم به «ابزار درمانی» اختصاص دارد که بر پایه یک مدل زبانی بزرگ ساخته شده و قادر است گفتوگویی مشابه با یک درمانگر انسانی ایجاد کند.
کمیته در این جلسه باید پیامدهای احتمالی استفاده از چنین ابزاری را در دو حالت نسخهای (تجویز پزشک) و بدون نسخه (استفاده عمومی) مورد بررسی قرار دهد — هم برای بزرگسالان و هم نوجوانان، و در درمان اختلال افسردگی اساسی و سایر بیماریهای روانی.
بازخوردها و پیشنهادهای حاصل از این جلسه قرار است مبنای تصمیمگیریهای آینده FDA در زمینه تدوین سیاستهای نظارتی جدید برای کاربردهای هوش مصنوعی در درمانهای سلامت روان قرار گیرد.
