الزامات قانونی نرم افزار مبتنی بر هوش مصنوعی

فناوری‌های مبتنی‌بر هوش مصنوعی (AI) و یادگیری ماشین (ML) این ظرفیت را دارند که با استفاده از بینش‌های جدید و حجم عظیمی از داده‌های تولیدشده، روند ارائة مراقبت‌های بهداشتی را هر روز متحول کنند. نمونه‌هایی از کاربردهای با ارزش آن شامل تشخیص زودهنگام و دقیق‌تر بیماری، شناسایی مشاهدات یا الگوهای جدید در فیزیولوژی انسان، و توسعة تشخیص‌ها و درمان‌های شخصی‌سازی می‌شود.
از بزرگ‌ترین مزایای هوش مصنوعی/ یادگیری ماشین (AI/ML) در نرم‌افزار، توانایی آن در یادگیری و تجربه در دنیای واقعی و همین‌طور بهبود عملکرد آن است. توانایی نرم‌افزار AI/ML برای یادگیری از بازخوردهای دنیای واقعی (آموزش) و بهبود عملکرد آن (انطباق)، سبب می‌شود این فناوری‌ها به‌طور منحصربه‌فردی بین نرم‌افزارها به‌عنوان یک دستگاه پزشکی (SaMD) ، به‌سرعت در حال گسترش و تحقیق‌وتوسعه قرار گیرند.
چشم‌انداز ما این است که با نظارتی مناسب، SaMD مبتنی‌بر AI/ML، عملکرد نرم‌افزاری ایمن و مؤثر را ارائه دهد تا کیفیت مراقبتی بیماران بهبود یابد. سازمان غذا و داروی آمریکا گام‌های مهمی در توسعة سیاست‌هایی برداشته که به‌طور مناسب برای SaMD طراحی شده است تا اطمینان حاصل شود که فناوری ایمن و مؤثر به کاربران، ازجمله بیماران و متخصصان مراقبت‌های بهداشتی می‌رسد.
انجمن بین‌المللی الزامات دستگاه‌های پزشکی (IMDRF) نرم‌افزار به‌‌عنوان دستگاه پزشکی (SaMD) را این‌گونه تعریف می‌کند که برای یک یا چند هدف پزشکی استفاده می‌شود. سازمان غذا و داروی آمریکا اهداف پزشکی آن را تشخیص، درمان، کاهش، یا پیشگیری از بیماری یا شرایط دیگر در نظر گرفته است.
الگووارة سنتی الزامات دستگاه‌های پزشکی برای فناوری‌های تطبیقی AI/ML طراحی نشده است؛ زیرا قابلیت انطباق و بهینه‌سازی عملکرد دستگاه را در زمان واقعی به‌منظور بهبود مستمر مراقبت‌های بهداشتی برای بیماران ندارند. ماهیت مستقل و تطبیقی این ابزارها نیازمند رویکرد نظارتی جدیدی است که چرخة سریع بهبود محصول را تسهیل می‌کند و به این دستگاه‌ ها اجازه می‌دهد به‌طور مداوم بهبود یابند.

نرم‌افزار مبتنی‌بر هوش مصنوعی به‌عنوان دستگاه پزشکی
در این پژوهش، از تعریف جان مک کارتی دربارة هوش مصنوعی به‌عنوان علم و مهندسی ساخت ماشین‌های هوشمند، به‌ویژه برنامه‌های کامپیوتری هوشمند، استفاده می‌کنیم. هوش مصنوعی می‌تواند از روش‌های مختلفی مانند ML برای تولید رفتار هوشمند استفاده کند؛ ازجمله مدل‌های مبتنی‌بر تجزیه‌وتحلیل آماری داده‌ها و سیستم‌های خبره، که در درجة اول، بر گزاره‌های If-Then متکی هستند.
ما به سیستم ML به‌عنوان سیستمی اشاره می‌کنیم که ظرفیت یادگیری براساس آموزش دربارة کاری خاص را با ردیابی معیارهای عملکرد داشته باشد. هوش مصنوعی و به‌طور خاص ML، روش‌هایی هستند که برای طراحی و آموزش الگوریتم‌‌های نرم‌افزاری برای یادگیری و عمل روی داده‌ها استفاده می‌شوند.
سازمان غذا و داروی آمریکا و انجمن بین‌المللی الزامات دستگاه‌های پزشکی، هنگامی که این نرم‌‌افزارهای مبتنی‌بر هوش مصنوعی، برای تشخیص، درمان، کاهش، پیشگیری از بیماری، یا سایر شرایط در نظر گرفته می‌شوند، آن‌ها را نرم‌افزار به‌عنوان دستگاه پزشکی (SaMD) می‌نامند. SaMD مبتنی‌بر AI/ML در طیفی وجود دارد که براساس سطح خطر برای بیماران طبقه‌بندی شده است. آن‌ها همچنین در گروهی از سیستم‌های یادگیری ایستا وجود دارند. مدل‌های «ایستا» آن‌هایی هستند که هر بار ورودی یکسانی ارائه می‌شود، یک نتیجه را ارائه می‌دهند. به این ترتیب، مدل ایستا تابع ثابتی را برای مجموعه‌ای از ورودی‌ها اعمال می‌کند.
این مدل‌ها ممکن است برای به‌روزرسانی و اعتبارسنجی از فرایندهای دستی استفاده کنند. برخلاف مدل ایستا، مدل تطبیقی رفتار خود را با استفاده از فرایند یادگیری تعریف‌شده تغییر می‌دهد. انطباق یا تغییرات مدل به‌گونه‌ای پیاده‌سازی می‌شوند که ممکن است خروجی برای مجموعه‌ای از ورودی‌ها، قبل و بعد از اجرای تغییرات، متفاوت باشد. این تغییرات مدل معمولاً از طریق فرایند کاملاً تعریف‌شده و احتمالاً کاملاً خودکاری، پیاده‌سازی و تأیید می‌شوند که هدف آن بهبود عملکرد براساس تجزیه‌وتحلیل داده‌‌های جدید یا اضافی است.
فرایند تطبیق را می‌توان برای پرداختن به چندین جنبة بالینی مختلف، مانند بهینه‌سازی عملکرد در محیطی خاص، بهینه‌سازی عملکرد براساس نحوة استفاده از دستگاه، بهبود عملکرد با جمع‌آوری داده‌‌های بیشتر یا تغییر استفادة مدنظر از دستگاه تعریف کرد.
فرایند تطبیق دو مرحله را دنبال می‌کند: یادگیری و به‌روزرسانی. الگوریتم یاد می‌گیرد که چگونه رفتار خود را تغییر دهد. برای مثال، از افزودن انواع ورودی جدید یا افزودن موارد جدید به پایگاه دادة آموزشی موجود. به‌روزرسانی زمانی رخ می‌دهد که نسخة جدید الگوریتم طراحی شود. درنتیجه، با توجه به مجموعة یکسانی از ورودی‌ها در زمان قبل از به‌روزرسانی و زمان پس از به‌روزرسانی، ممکن است خروجی الگوریتم متفاوت باشد.

انواع اصلاحات SaMD مبتنی‌بر AL/ML
تغییرات احتمالی زیادی برای SaMD مبتنی‌بر AI/ML وجود دارد. انواع اصلاحات به‌طور کلی به سه دسته تقسیم می‌شوند:
 عملکرد بالینی؛
 ورودی‌های استفاده‌شده توسط الگوریتم و ارتباط بالینی آن‌ها با خروجی SaMD؛
 استفادة مدنظر از SaMD.
تغییرات توصیف‌شده ممکن است متقابلاً منحصربه‌فرد نباشند؛ بدین معنی که شاید اصطلاح نرم‌افزار علاوه‌بر ورودی، در عملکرد نیز تأثیرگذار باشد یا تغییر عملکرد، عملکرد بالینی دستگاه را افزایش دهد که به‌نوبة خود، در استفادة مدنظر تأثیر می‌گذارد. این تغییرات نرم‌افزاری در SaMD مبتنی‌بر AI/ML، تأثیر متفاوتی در کاربران دارد که ممکن است شامل بیماران، متخصصان مراقبت‌های بهداشتی، یا دیگران باشد.

اصلاحات مربوط به عملکرد، بدون تغییر در کاربرد مدنظر یا نوع ورودی جدید
این نوع اصلاح شامل بهبودهایی در عملکرد تحلیلی و بالینی است که می‌تواند از تعدادی تغییرات ناشی شود. این ممکن است شامل آموزش مجدد با مجموعه‌داده‌های جدید در جمعیت مدنظر از همان نوع سیگنال ورودی، تغییر در معماری AI/ML، یا ابزارهای دیگر باشد. برای این نوع اصلاح، سازنده معمولاً قصد دارد اطلاعات کاربران را دربارة عملکرد دستگاه به‌روزرسانی کند، بدون اینکه هیچ‌یک از ادعاهای استفاده راجع‌به محصول خود را تغییر دهد.
اصلاحات مربوط به ورودی‌ها، بدون تغییر در کاربرد مدنظر
این نوع اصلاحات آن‌هایی هستند که ورودی‌های استفاده‌شده توسط الگوریتم AI/ML را تغییر می‌دهند. این تغییرات ممکن است شامل تغییراتی در الگوریتم برای استفاده با انواع جدید سیگنال‌های ورودی باشد، اما ادعای استفاده از محصول را تغییر نمی‌دهد. نمونه‌هایی از این تغییرات به‌شرح زیر است:
 سازگاری و پایداری SaMD با منبع(های) دیگر از همان نوع دادة ورودی (برای مثال، اصلاح SaMD برای پشتیبانی سازگاری با اسکنرهای سی‌تی سازندگان دیگر)؛
 افزودن نوع‌های مختلف دادة ورودی (برای مثال، برای تشخیص فیبریلاسیون دهلیزی علاوه‌بر داده‌های اکسیمتری، داده‌های ضربان قلب نیز در دسترس باشد).

اصلاحات مربوط به کاربرد مدنظر SaMD
این نوع اصلاحات شامل تغییراتی است که به تغییر در اهمیت اطلاعات ارائه‌شده توسط SaMD منجر می‌شود (برای مثال، کمک به تشخیص بالینی یا تشخیص قطعی). این نوع اصلاحات شامل آن‌هایی نیز هست که به تغییر در وضعیت یا شرایط مراقبت‌های بهداشتی منجر می‌شوند و سازنده به‌صراحت آن را ادعا می‌کند (برای مثال، جمعیت کودکان، که در آن، SaMD در ابتدا برای بزرگ‌سالان هجده سال یا بالاتر در نظر گرفته شده بود)، یا بیماری یا شرایط مدنظر (برای مثال، گسترش استفاده از الگوریتم SaMD برای تشخیص ضایعه از یک نوع سرطان به نوع دیگر).

رویکرد نظارتی چرخة عمر محصول برای SaMD مبتنی‌بر هوش مصنوعی
استفاده از رویکرد TPLC در محصولات نرم‌افزاری به‌دلیل توانایی آن در سازگاری و بهبود استفاده در دنیای واقعی، به‌ویژه برای SaMD مبتنی‌بر AI/ML مهم است. این رویکرد، کیفیت یک شرکت خاص را ارزیابی می‌کند و از کیفیت خوب توسعة نرم‌افزار و نظارت بر عملکرد محصولات خود اطمینان خواهد داشت. این رویکرد تضمین ایمنی و اثربخشی در طول چرخة عمر محصولات را فراهم می‌کند تا بیماران، متخصصان مراقبت‌های بهداشتی، و دیگر کاربران از ایمنی و کیفیت آن محصولات اطمینان داشته باشند.

سیستم های کیفیت و روش‌های یادگیری ماشین خوب
سازمان غذا و داروی آمریکا از هر سازندة دستگاه پزشکی انتظار دارد سیستم کیفیت داشته باشد و درجهت توسعه، ارائه، و حفظ محصولات با کیفیت مطلوب، در طول چرخة عمر، و مطابق با استانداردها و مقررات مناسب باشد.
دو نمونه از کاربردهای SaMD در ادامة مطالعه آورده شده است:
 کاربرد SaMD در بخش مراقبت‌های ویژه
نوعی برنامة مبتنی‌بر AI/ML برای بیماران ICU در نظر گرفته شده است که سیگنال‌های الکتروکاردیوگرام، فشار خون، و پالس اکسیمتری را از مانیتور اولیة بیمار دریافت می‌کند. هنگامی که بی‌ثباتی در علائم فیزیولوژیک تشخیص داده می‌شود، سیگنال هشدار صوتی‌ای برای نشان‌دادن اقدامات بالینی سریع به‌منظور جلوگیری از آسیب احتمالی به بیمار تولید می‌شود. این برنامه SaMD AI/MLمدیریت بالینی را در شرایط بحرانی مراقبت‌های بهداشتی هدایت می‌کند.

 کاربرد SaMD در اپلیکیشن موبایل پزشکی به‌منظور تشخیص ضایعة پوستی
SaMD یک MMA AI/MLاست که از تصاویر گرفته‌شده با دوربین گوشی هوشمند، برای ارائة اطلاعات دقیق به متخصص پوست دربارة ویژگی‌های فیزیکی ضایعة پوستی استفاده می‌کند، تا متخصص پوست ضایعة پوستی را به‌عنوان خوش‌خیم یا بدخیم برچسب‌گذاری کند.
منبع
https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices.