هوش مصنوعی و مراقبت های بهداشتی: آیا باید نگران باشیم؟

شفاف باشید زو گفت که اولین قدم بزرگ، شفافیت بیشتر در مورد داده هایی است که برای آموزش مدل های هوش مصنوعی، مانند چت بات ها، و نحوه ارزیابی آن مدل ها استفاده می شود.

قاسمی گفت: «من فکر می‌کنم مشکل این است که وقتی سعی می‌کنید ساده‌لوحانه انسان‌ها را با هوش مصنوعی در مراقبت‌های بهداشتی جایگزین کنید، واقعاً نتایج ضعیفی می‌گیرید. “شما باید به آن به عنوان یک ابزار تقویت کننده نگاه کنید، نه به عنوان یک ابزار جایگزین.”

برای مثال، یکی از دستگاه‌های مبتنی بر هوش مصنوعی، سطح اکسیژن خون را در بیمارانی که پوست تیره‌تری داشتند، بیش از حد تخمین زد که منجر به درمان کم‌اکسی (کمبود اکسیژن) می‌شود. یک مطالعه در سال 2019 نشان داد که الگوریتمی که برای پیش‌بینی نیازهای مراقبت‌های بهداشتی بیش از 100 میلیون نفر استفاده می‌شود، علیه بیماران سیاه‌پوست تعصب دارد. «الگوریتم برای پیش‌بینی نیازهای سلامت آینده بر هزینه‌های مراقبت‌های بهداشتی تکیه داشت. اما با دسترسی کمتر به مراقبت از نظر تاریخی، بیماران سیاه پوست اغلب کمتر هزینه می کردند. در نتیجه، بیماران سیاه پوست باید بسیار بیمارتر می شدند تا تحت این الگوریتم برای مراقبت بیشتر توصیه شوند.

آیا هوش مصنوعی به زودی به اندازه انسان ها – یا باهوش تر از – خواهد بود؟ >>>

جنبه ترسناک هوش مصنوعی در مراقبت های بهداشتی

ساده سازی اطلاعات پزشکی برای بیماران زو گفت: بسیاری از اصطلاحات و مفاهیم پزشکی می توانند بسیار پیچیده باشند. یکی از پروژه‌هایی که ما انجام داده‌ایم استفاده از ChatGPT برای گرفتن فرم‌های رضایت پزشکی است که خواندن آن بسیار دشوار است، و سپس آن را ساده می‌کنیم تا کسی در سطح خواندن کلاس هشتم بتواند آن را بخواند. ”

تحقیقات نشان می دهد که دستگاه های پزشکی کلیدی در تشخیص دقیق بیماران سیاه پوست ناکام هستند >>>

چگونه می توانیم مضرات بالقوه هوش مصنوعی در سلامت را کاهش دهیم؟

تشخیص و ارزیابی انجام دهید. “[There are] بیش از 500 الگوریتم و دستگاه هوش مصنوعی پزشکی که توسط FDA در ایالات متحده تأیید شده است و اکنون می تواند بر روی بیماران استفاده شود. و بسیاری از این الگوریتم‌ها اساساً به پزشکان کمک می‌کنند تا تشخیص‌های بهتر و ارزیابی بهتر بیماران را انجام دهند. با استفاده از هوش مصنوعی برای کمک به انجام وظایفی مانند ارزیابی تصاویر پزشکی، پزشکان می توانند برخی از کارهای دستی پر زحمت تر را قطع کنند.

بیش از 500 الگوریتم و دستگاه هوش مصنوعی پزشکی وجود دارد که توسط FDA در ایالات متحده تأیید شده است و اکنون می توان از آنها برای بیماران استفاده کرد.جیمز زو، دانشگاه استنفورد

پیش بینی کنید در حالی که بسیاری از مدل‌های فعلی هوش مصنوعی بر کمک به تشخیص بیماران تمرکز می‌کنند، قاسمی گفت که او همچنین شاهد توسعه مدل‌هایی است که می‌تواند به پیش‌بینی پیشرفت یک بیماری یا ایجاد عوارض احتمالی یک بیماری کمک کند.

مقررات وضع کنید. قاسمی پیشنهاد داد که دفتر حقوق شهروندی وزارت بهداشت و خدمات انسانی می تواند در این زمینه نقش داشته باشد. آنها می توانند این خط را که تبعیض را در زمینه مراقبت های بهداشتی ممنوع می کند، اجرا کنند و بگویند، “هی، این برای الگوریتم ها نیز صدق می کند.”