هوش مصنوعی اطلاعات پزشکی شما را افشا نمی‌کند

به گزارش گروه دانش و فناوری، اگر پزشک‌های شما به زودی پیام‌های بسیار دوستانه برایتان فرستادند، تعجب نکنید. آنها احتمالا از هوش مصنوعی کمک گرفته‌اند.

به نقل از فست کمپانی، نرم‌افزارهای جدید هوش مصنوعی به پزشکان کمک می‌کنند تا با بیماران خود در ارتباط باشند. برخی از ارتباطات با پاسخ دادن به پیام‌ها و برخی دیگر با یادداشت‌برداری در طول جلسات برقرار می‌شوند.

چندین ماه از انتشار چت‌بات «ChatGPT» شرکت «OpenAI» می‌گذرد. در حال حاضر هزاران پزشک از محصولات مشابه ChatGPT استفاده می‌کنند که براساس مدل‌های زبانی بزرگ طراحی شده‌اند. یکی از شرکت‌های سازنده چت‌بات‌های هوش مصنوعی می‌گوید که نرم‌افزارش به ۱۴ زبان کار می‌کند.

علاقه‌مندان می‌گویند که هوش مصنوعی به صرفه‌جویی در وقت پزشکان کمک می‌کند و از فرسودگی شغلی جلوگیری به عمل می‌آورد. در مقابل، مخالفان می‌گویند که هوش مصنوعی روابط پزشک و بیمار را متزلزل می‌کند و پرسش‌هایی را در مورد اعتماد، شفافیت، حریم خصوصی و آینده ارتباط انسانی به وجود می‌آورد.

این گزارش، به پرتکرارترین پرسش‌ها درباره تأثیر نرم‌افزارهای هوش مصنوعی جدید بر بیماران پاسخ می‌دهد.

۱. آیا پزشک من از هوش مصنوعی استفاده می‌کند؟

دستگاه‌های پزشکی مبتنی بر یادگیری ماشینی در سال‌های اخیر، کارهایی را مانند خواندن ماموگرافی، تشخیص دادن بیماری‌های چشمی و شناسایی مشکلات قلبی انجام داده‌اند. موضوع جدید، توانایی هوش مصنوعی مولد برای پاسخ دادن به دستورالعمل‌های پیچیده است.

چک‌آپ بعدی شما ممکن است با یک اپلیکیشن هوش مصنوعی نصب‌شده روی تلفن همراه هوشمند انجام شود که گوش می‌دهد، مستندات را جمع‌آوری می‌کند و بلافاصله همه چیز را به صورت سازمان‌دهی‌شده در یادداشتی ارائه می‌دهد تا بعدا خوانده شود.

پزشک پیش از به کار بردن اپلیکیشن باید از رضایت بیمار مطمئن شود. بدین ترتیب، بیمار ممکن است در فرم‌هایی که در مطب پزشک امضا می‌کند، عبارات جدیدی ببیند.

سایر نرم‌افزارهای هوش مصنوعی نیز می‌توانند به پزشک در ایجاد و ارسال پیام کمک کنند اما ممکن است بیمار هرگز از آن آگاه نشود. «کیت دزروچز»(Cait DesRoches) مدیر شرکت «اوپن‌نوتز»(OpenNotes) مستقر در بوستون که برای برقراری ارتباط شفاف بین پزشکان و بیماران کار می‌کند، گفت: پزشک ممکن است به شما بگوید که از آن استفاده می‌کند یا نگوید. برخی از سیستم‌های بهداشتی، شفافیت را تشویق می‌کنند و برخی این کار را نمی‌کنند.

۲. آیا هوش مصنوعی اشتباه می‌کند؟

مدل‌های زبانی بزرگ می‌توانند ورودی‌ها را اشتباه تفسیر کنند یا حتی پاسخ‌های نادرست ارائه دهند. نرم‌افزارهای جدید دارای حفاظ‌های داخلی هستند تا از رسیدن پاسخ‌های نادرست به بیماران یا ثبت موارد نادرست در پرونده‌های الکترونیکی سلامت جلوگیری کنند.

دکتر «آلیستر ارسکین»(Alistair Erskine) سرپرست بخش نوآوری‌های دیجیتالی شرکت «اموری هلث‌کر»(Emory Healthcare) واقع در جورجیا گفت: شما نمی‌خواهید موارد جعلی به یادداشت‌های بالینی وارد شوند. چنین نرم‌افزاری، گفت‌وگوی پزشک و بیمار را در چندین مدل زبانی بزرگ به اجرا درمی‌آورد و ایده‌های عجیب را حذف می‌کند.

۳. آیا هوش مصنوعی می‌تواند احساسات انسانی داشته باشد؟

نرم‌افزارهای هوش مصنوعی می‌توانند دوستانه، همدلانه و آموزنده باشند اما برعکس آن هم ممکن است. برای مثال، یک بیمار مبتلا به آبریزش بینی در کلرادو از پیام تولیدشده توسط هوش مصنوعی متوجه شد که مشکل او ممکن است نشت مایع مغزی باشد؛ در صورتی که این طور نبود. نهایتا معلوم شد که یک پرستار، پیام را با دقت تصحیح نکرده و آن را به اشتباه فرستاده است.

شرکت «یوسی هلث»(UC Health) مستقر در کلرادو، حدود ۲۵۰ پزشک و کارمند دارد که از نرم‌افزار هوش مصنوعی شرکت «مایکروسافت»(Microsoft) به منظور نوشتن اولین پیش‌نویس پیام‌ها برای بیماران استفاده می‌کنند. دکتر «سی تی لین»(C.T. Lin) سرپرست بخش نوآوری‌های فناوری در شرکت یوسی هلث گفت: این گاهی اوقات یک کمک قابل توجه است و گاهی اوقات هیچ کمکی نمی‌کند.

نکته مثبت این است که پزشکان به خاطر استفاده کردن از هوش مصنوعی، دیگر در طول قرار ملاقات‌های پزشکی به رایانه‌های خود متصل نیستند. آنها می‌توانند با بیماران خود تماس چشمی برقرار کنند زیرا نرم‌افزار هوش مصنوعی، جلسه ملاقات را ضبط می‌کند.

۴. آیا هوش مصنوعی حریم شخصی را نقض می‌کند؟

قوانین آمریکا، سیستم‌های مراقبت بهداشتی را ملزم می‌کنند که مطمئن شوند شرکای تجاری آنها از اطلاعات سلامت بیماران محافظت می‌کنند. شرکت‌ها در صورت تخلف ممکن است با بازرسی و جریمه‌های وزارت بهداشت و خدمات انسانی روبه‌رو شوند.

پزشکانی که برای این گزارش مصاحبه کردند، گفتند که از امنیت داده‌ها در نرم‌افزارهای جدید اطمینان دارند و اطلاعات بیماران فاش نمی‌شوند. با وجود این، اطلاعاتی که در اختیار نرم‌افزارهای جدید هوش مصنوعی قرار می‌گیرند، می‌توانند با خطر افشا شدن روبه‌رو شوند.

دکتر «لنس اوونز»(Lance Owens) مدیر ارشد اطلاعات پزشکی در مرکز پزشکی «میشیگان هلث وست»(Michigan Health-West) است که در آن ۲۶۵ پزشک، دستیار پزشک و پرستار از نرم‌افزارهای شرکت مایکروسافت برای مستندسازی معاینات بیماران استفاده می‌کنند. اوونز نیز معتقد است که از داده‌های بیماران محافظت می‌شود و با تاکید بر این موضوع گفت: وقتی آنها می‌گویند که داده‌ها ایمن هستند، ما این حرف را باور می‌کنیم.

انتهای پیام