دکتر «ایزاک کوهان»، یک دانشمند کامپیوتر در هاروارد و یک پزشک است. او اخیراً با دو تن از همکاران خود درایو چت جی‌پی‌تی را آزمایش کرده‌اند. هدف آنها از این آزمایش پی‌بردن به نحوه عملکرد جدیدترین مدل هوش مصنوعی از OpenAI در یک محیط پزشکی است.
او در مورد نتایج آزمایش خود در کتاب «انقلاب هوش مصنوعی در پزشکی» که توسط روزنامه‌نگار مستقل «کری گلدبرگ» و پیتر، معاون پژوهشی مایکروسافت نوشته شده، می‌گوید: «واقعاً حیرت‌انگیز است. این ابزار نسبت به بسیاری از پزشکانی که تابه‌حال دیده‌ام، بهتر تشخیص می‌دهد.» نویسندگان این کتاب خاطرنشان کرده‌اند که نه مایکروسافت و نه OpenAI نظارتی بر محتوای کتاب‌شان ندارند.
کوهان در این کتاب می‌گوید: «چت جی‌پی‌تی۴ که در ماه مارس ۲۰۲۳ به‌صورت غیررایگان منتشر شد، می‌تواند به بیش از ۹۰ درصد سؤالات مجوز پزشکی ایالات متحده پاسخ دهد. چت جی‌پی‌تی۴ بسیار بهتر از مدل‌های قبلی چت جی‌پی‌تی ای‌آی، جی‌پی‌تی ۳-، ۳.۵- و حتی برخی پزشکان است.
جی‌پی‌تی۴ فقط یک آزمایش‌کننده و حقیقت‌یاب خوب نیست، بلکه یک مترجم عالی هم هست. این محصول می‌تواند اطلاعات مربوط به ترخیص یک بیمار به زبان پرتغالی را که در این کتاب آمده، ترجمه کند و همچنین سخت‌ترین اصطلاحات پزشکی را به ساده‌ترین روش توضیح دهد.
در این کتاب نویسندگان با بیان مثال توضیح می‌دهند که چت جی‌پی‌تی۴ می‌تواند پیشنهادهای مفیدی به پزشکان در مورد رفتار و گفتار آنها با بیماران ارائه دهد. همچنین می‌تواند گزارش‌ها و مقالات طولانی را بخواند و آنها در یک چشم بر هم زدن خلاصه کند.
اگر از چت جی‌پی‌تی۴ بپرسید چگونه تمام این کارها را انجام می‌دهد، احتمالاً به شما خواهد گفت که تمام هوش آن هنوز «محدود به الگوهای موجود در داده‌هاست و هنوز درک واقعی ندارد». این دقیقاً چیزی است که چت جی‌پی‌تی۴ به نویسندگان این کتاب، وقتی از آن پرسیدند که آیا می‌تواند در استدلال علّی شرکت کند یا خیر، گفته است. اما حتی با وجود چنین محدودیت‌هایی هم این فناوری می‌تواند نحوه تشخیص پزشکان را با موفقیت خیره‌کننده‌ای (هرچند ناقص) تقلید کند.
چگونه چت جی‌پی‌تی می‌تواند مانند یک پزشک تشخیص دهد؟
کوهان در این کتاب یک آزمایش فکری بالینی با چت جی‌پی‌تی۴ انجام می‌دهد. این آزمایش مربوط به نوزادی است که او چندین سال قبل درمان کرده بود. با ارائه جزئیات کلیدی در مورد معاینه این نوزاد و همچنین برخی اطلاعات از سونوگرافی و سطوح هورمونی، چت جی‌پی‌تی۴ توانست به‌درستی بیماری این نوزاد را تشخیص دهد.
این نوزاد به هیپرپلازی مادرزادی مبتلا بود و تقریباً از هر صد هزار نفر یک نفر به آن مبتلا می‌شود. کوهان می‌گوید چت جی‌پی‌تی۴ بیماری‌ای را تشخیص داد که من با سال‌ها مطالعه و تجربه آن را تشخیص داده بودم. کوهان هم شگفت‌زده و هم وحشت‌زده بود!
او می‌نویسد: «به‌زودی میلیون‌ها خانواده به این فناوری دسترسی خواهند داشت و من نگرانم که آیا می‌توان توصیه‌های چت جی‌پی‌تی۴ را تضمین کرد؟ آیا تمام توصیه‌های این فناوری درست هستند؟»
چت جی‌پی‌تی۴ همیشه درست نمی‌گوید و فاقد ارزش‌های اخلاقی است
چت جی‌پی‌تی۴ همیشه قابل اعتماد نیست و کتاب هم مملو از نمونه‌های اشتباه این فناوری است. این اشتباهات اغلب نامحسوس هستند و سیستم تمایل دارد که درستی آن را ثابت کند، حتی زمانی که به چالش کشیده شود، اما مسئله این است که محاسبه اشتباه یک عدد می‌تواند به اشتباهات جدی در تجویز یا تشخیص منجر شود.
چت جی‌پی‌تی۴ نیز مانند نسخه‌های قبلی خود می‌تواند دچار «توهم» شود. این اصطلاح وقتی به کار می‌رود که هوش مصنوعی خودش پاسخ‌ها را می‌سازد یا از درخواست‌ها سرپیچی می‌کند. وقتی از نویسندگان کتاب در مورد این موضوع سؤال پرسیدند، چت جی‌پی‌تی۴ پاسخ داد: «من قصد فریب یا گمراه‌کردن کسی را ندارم، اما گاهی اوقات بر اساس داده‌های ناقص یا نادرست، اشتباه می‌کنم یا فرضیات اشتباهی ارائه می‌دهم.
همچنین قضاوت بالینی یا مسئولیت اخلاقی یک پزشک یا پرستار را ندارم.» نویسندگان می‌نویسند: «واضح است که چت جی‌پی‌تی۴ به پزشکان در ذخیره زمان و منابع‌شان کمک می‌کند. پزشکان می‌توانند زمان بیشتری را در کنار بیماران خود سپری کنند. ما باید به دنیایی عادت کنیم که ماشین‌ها در آن هوشمند و هوشمندتر می‌شوند و شاید در نهایت در تمام ابعاد از هوش انسانی پیشی بگیرند؛ در آن صورت باید ببینیم چگونه جهانی خواهیم داشت.»
لینک کوتاه: https://karangweekly.ir/jgl7
