لزوم نظارت بر هوش مصنوعی در حوزه سلامت / توصیه‌های سازمان بهداشت جهانی

هوش مصنوعی را می‌توان مهم‌ترین ترند فناوری در سال ۲۰۲۳ عنوان کرد که بحث‌های زیادی را به‌ویژه در خصوص رگولاتوری به خود اختصاص داده است؛ بحث‌هایی که به نظر می‌رسد در سال جدید نیز همچنان داغ باشند. حوزه سلامت ازجمله بخش‌هایی است که هوش مصنوعی می‌تواند در آن نقشی کلیدی داشته باشد.

براساس اعلام سازمان بهداشت جهانی، این نهاد بین‌المللی قرار است به‌زودی دستورالعمل‌های جدیدی در مورد اخلاق و حاکمیت مدل‌های پزشکی بزرگ هوش مصنوعی منتشر کند. این مدل‌ها نوعی از فناوری هوش مصنوعی مولد محسوب می‌شوند که به‌سرعت در حال‌ رشد در حوزه مراقبت‌های بهداشتی هستند. این دستورالعمل شامل ۴۰ توصیه برای دولت‌ها، شرکت‌های فناوری و ارائه‌دهندگان مراقبت‌های بهداشتی برای اطمینان است.

این توصیه‌ها به نهادهای مذکور در استفاده بهینه‌تر از مدل‌های پزشکی هوش مصنوعی کمک می‌کنند. مدل‌های پزشکی یک یا چند نوع ورودی مانند متن، فیلم و تصویر می‌پذیرند و خروجی‌های خیلی متنوع‌تری تولید می‌کنند. این مدل‌ها در تقلید از ارتباطات انسانی و توانایی انجام وظایفی که به صراحت برای انجام آنها برنامه‌ریزی نشده، منحصربه‌فرد هستند.

دکتر جرمی فارار، دانشمند ارشد سازمان جهانی بهداشت، در مورد این مدل‌ها گفت: «فناوری‌های هوش مصنوعی مولد، پتانسیل بهبود مراقبت‌های بهداشتی را دارند، اما کسانی که این فناوری‌ها را توسعه می‌دهند یا تنظیم و استفاده می‌کنند باید خطرات مرتبط با آنها را شناسایی کرده و در نظر بگیرند. ما به اطلاعات و سیاست‌های شفاف برای مدیریت، طراحی، توسعه و استفاده از این مدل‌ها نیاز داریم تا بتوانیم به نتایج بهتر دست یابیم و به نابرابری‌های بهداشتی غلبه کنیم.»

---

کاربردهای مدل‌های بزرگ پزشکی هوش مصنوعی

---

دستورالعمل جدید سازمان بهداشت جهانی پنج کاربردی را که مدل‌های بزرگ پزشکی برای سلامتی دارند، این‌گونه تشریح می‌کند:

۱- تشخیص و مراقبت‌های بالینی، مانند پاسخ به سؤالات کتبی بیماران

۲- راهنمای بیماران مانند بررسی علائم، درمان و کارهای اداری

۳- خلاصه کردن ویزیت بیماران در پرونده الکترونیکی سلامت

۴- آموزش‌های پزشکی و پرستاری، ازجمله مجهز کردن کارآموزان با شبیه‌سازی‌های مراقبت از بیماران

۵- تحقیقات علمی و توسعه دارو، ازجمله شناسایی ترکیبات جدید

---

خطرات مدل‌های هوش مصنوعی در حوزه سلامت

---

در حال حاضر با اینکه استفاده از مدل‌های بزرگ پزشکی هوش مصنوعی در حال گسترش است، خطرات و مشکلات مستندی از کارکرد آنها گزارش شده است. اظهارات نادرست این مدل‌ها می‌تواند به تصمیم‌گیرندگان نهایی و در نتیجه بیماران آسیب برساند. از طرف دیگر ممکن است داده‌هایی که به این مدل‌ها ارائه می‌شود، سوگیرانه باشد و به آموزش غلط آنها منجر شود. برای مثال داده‌ها ممکن است از نظر نژاد، قومیت، جنسیت یا هویت مغرضانه باشند.

این دستورالعمل سازمان بهداشت جهانی خطرات دیگر این مدل‌ها را نیز شرح می‌دهد. مدل‌های بزرگ پزشکی هوش مصنوعی باعث می‌شوند تشخیص و تصمیمات پزشکان اتوماسیون‌محور شوند. در این صورت خطاهای اتوماسیون نادیده گرفته می‌شوند. این مدل‌ها مانند سایر اشکال هوش مصنوعی، در برابر خطرات امنیت سایبری نیز آسیب‌پذیر هستند و می‌توانند اطلاعات بیماران را به خطر بیندازند.

در نتیجه برای ایجاد مدل‌های بزرگ پزشکی هوش مصنوعی ایمن و مؤثر، سازمان بهداشت جهانی بر نیاز به مشارکت ذینفعان مختلف مانند دولت‌ها، شرکت‌های فناوری، ارائه‌دهندگان مراقبت‌های بهداشتی، بیماران و جامعه مدنی در تمام مراحل توسعه و استقرار چنین فناوری‌هایی، ازجمله نظارت و تنظیم مقررات آنها تأکید می‌کند.