در سال‌های اخیر، با فراگیرشدن ابزارهای هوش مصنوعی مثل چت‌بات‌ها، استفاده از آن‌ها برای دریافت مشاوره پزشکی به یک روند رایج تبدیل شده است. اما این کار می‌تواند تبعات جدی برای سلامت افراد داشته باشد. برای مثال، در یک مورد واقعی، فردی پس از دریافت پیشنهاد از یک چت‌بات، به‌جای نمک معمولی از سدیم برومید استفاده کرد و دچار مسمومیت شدید شد که منجر به بستری‌شدن چندهفته‌ای او در بخش روان‌پزشکی شد.

واقعیت این است که حتی پیشرفته‌ترین مدل‌های هوش مصنوعی هم به اطلاعات پزشکی شخصی شما دسترسی ندارند، نمی‌توانند وضعیت جسمی‌تان را معاینه کنند، احساساتتان را بفهمند یا با قضاوت بالینی تصمیم بگیرند. بدتر از آن، ممکن است اطلاعاتی قدیمی، نادرست یا گمراه‌کننده به شما بدهند و با اطمینان کامل هم ارائه‌شان کنند.

از سوی دیگر، این ابزارها تحت هیچ‌گونه نظارت قانونی یا چارچوب‌های اخلاقی حوزه سلامت قرار ندارند. به همین دلیل، واردکردن اطلاعات پزشکی شخصی در آن‌ها می‌تواند حریم خصوصی شما را به خطر بیندازد. متخصصان توصیه می‌کنند که در صورت استفاده از ابزارهای AI، حتماً اطلاعات دریافتی را با پزشک خود مطرح کرده و از او بخواهید صحت و کاربرد آن را برای شرایط خاصتان بررسی کند. در حال حاضر، مناسب‌ترین استفاده از هوش مصنوعی در حوزه سلامت، دریافت اطلاعات اولیه یا آشنایی با مفاهیم پزشکی است نه تشخیص، درمان یا تصمیم‌گیری بالینی.

در این گزارش، به دلایل علمی و تجربی می‌پردازیم که چرا تکیه صرف بر AI برای تصمیم‌های پزشکی می‌تواند خطرناک باشد، چه محدودیت‌هایی دارد و چطور می‌توان به شکل ایمن‌تر از آن استفاده کرد.

۱- عدم توانایی در تشخیص جامع و زمینه‌محور

پزشکان هنگام تشخیص بیماری، نه‌تنها به علائم گزارش‌شده توسط بیمار توجه می‌کنند، بلکه عوامل زمینه‌ای مانند تاریخچه پزشکی، سبک زندگی، ژنتیک و حتی نشانه‌های غیرکلامی (مانند زبان بدن) را در نظر می‌گیرند. هوش مصنوعی، حتی مدل‌های پیشرفته، معمولاً به داده‌های ورودی محدود است و نمی‌تواند به طور کامل این زمینه‌های پیچیده را درک کند. به‌عنوان‌مثال، یک علامت مانند "درد قفسه سینه" می‌تواند ناشی از مشکلات قلبی، گوارشی یا حتی اضطراب باشد. پزشک با معاینه فیزیکی و پرسش‌های دقیق، این تمایز را انجام می‌دهد، اما AI ممکن است به دلیل وابستگی به داده‌های محدود یا الگوریتم‌های از پیش تعریف‌شده، تشخیص نادرستی ارائه دهد.

۲- خطر سوگیری در داده‌ها و الگوریتم‌ها

هوش مصنوعی بر اساس داده‌هایی که برای آموزش آن استفاده شده، عمل می‌کند. اگر داده‌های آموزشی ناقص، غیرنماینده یا سوگیرانه باشند، نتایج AI نیز می‌توانند نادرست یا تبعیض‌آمیز باشند. به‌عنوان‌مثال، مطالعاتی نشان داده‌اند که برخی الگوریتم‌های تشخیص بیماری در گروه‌های قومی خاص عملکرد ضعیفی دارند، زیرا داده‌های آموزشی عمدتاً از جمعیت‌های خاص (مانند سفیدپوستان و یا مردان) جمع‌آوری شده‌اند. این سوگیری می‌تواند منجر به تشخیص‌های نادرست یا توصیه‌های درمانی نامناسب شود.

۳- عدم مسئولیت‌پذیری قانونی و اخلاقی

پزشکان تحت نظارت نهادهای پزشکی و قوانین حرفه‌ای فعالیت می‌کنند و در قبال تشخیص‌ها و درمان‌هایشان مسئول هستند. در مقابل، هوش مصنوعی فاقد مسئولیت‌پذیری قانونی است. اگر AI توصیه‌ای نادرست ارائه دهد که به بیمار آسیب برساند، مشخص نیست چه کسی مسئول خواهد بود: توسعه‌دهنده سیستم، ارائه‌دهنده خدمات یا کاربر؟ این ابهام می‌تواند بیماران را در موقعیت‌های خطرناک قرار دهد.

۴- ناتوانی در مدیریت موارد پیچیده یا نادر

بیماری‌های نادر یا موارد پیچیده‌ای که علائم غیرمعمول دارند، اغلب نیاز به تجربه بالینی و قضاوت انسانی دارند. هوش مصنوعی ممکن است در تشخیص بیماری‌های شایع که داده‌های زیادی برای آن‌ها وجود دارد (مانند دیابت یا فشارخون بالا) عملکرد خوبی داشته باشد، اما در موارد نادر یا غیرمعمول، به دلیل کمبود داده‌های آموزشی، احتمال خطا افزایش می‌یابد. پزشکان با سال‌ها تجربه و دانش ترکیبی می‌توانند این شکاف را پر کنند.

۵- فقدان همدلی و ارتباط انسانی

یکی از جنبه‌های کلیدی مشاوره پزشکی، توانایی پزشک در ایجاد اعتماد و ارتباط عاطفی با بیمار است. همدلی و درک شرایط روانی بیمار می‌تواند بر تصمیم‌گیری‌های درمانی تأثیر بگذارد. هوش مصنوعی نمی‌تواند احساسات انسانی را درک کند یا به بیماران آرامش روانی بدهد. برای مثال، در بیماری‌های جدی مانند سرطان، نحوه ارائه اطلاعات توسط پزشک می‌تواند تأثیر عمیقی بر پذیرش درمان توسط بیمار داشته باشد.

۶- خطر اعتماد بیش از حد به AI

کاربران ممکن است به دلیل دسترسی آسان و پاسخ‌های سریع هوش مصنوعی، بیش از حد به آن اعتماد کنند و از مشاوره با پزشک صرف‌نظر کنند. این اعتماد کاذب می‌تواند باعث نادیده‌گرفتن علائم جدی یا تأخیر در درمان شود. به‌عنوان‌مثال، یک مدل AI ممکن است یک علامت را به‌اشتباه به بیماری خوش‌خیم نسبت دهد، درحالی‌که پزشک با معاینه دقیق‌تر، مشکل جدی‌تری را تشخیص می‌دهد.

۷- محدودیت در تفسیر داده‌های ناقص یا مبهم

بیماران اغلب اطلاعات ناقص یا مبهمی درباره علائم خود ارائه می‌دهند. پزشکان با پرس‌وجو و معاینه می‌توانند این ابهامات را برطرف کنند، اما هوش مصنوعی معمولاً به داده‌های دقیق و ساختارمند وابسته است. اگر بیمار علائم را به‌درستی توصیف نکند، AI ممکن است نتیجه‌گیری نادرستی ارائه دهد.

۸- مشکلات مربوط به به‌روزرسانی و نگهداری

الگوریتم‌های هوش مصنوعی باید به طور مداوم با داده‌های جدید به‌روزرسانی شوند تا دقت خود را حفظ کنند. بااین‌حال، در عمل، این به‌روزرسانی‌ها ممکن است به دلیل هزینه‌های بالا یا محدودیت‌های فنی به تأخیر بیفتند. در مقابل، پزشکان از طریق آموزش مداوم و تجربه بالینی، دانش خود را به‌روز نگه می‌دارند.

هوش مصنوعی ابزار قدرتمندی برای پشتیبانی از پزشکان در تحلیل داده‌ها، تشخیص سریع‌تر و بهبود کارایی سیستم‌های پزشکی است، اما نمی‌تواند جایگزین کامل پزشکان شود. محدودیت‌هایی مانند عدم توانایی در درک زمینه‌های انسانی، خطر سوگیری، فقدان همدلی، ناتوانی در مدیریت موارد پیچیده و مسائل حقوقی و اخلاقی، استفاده از AI به‌عنوان منبع اصلی مشاوره پزشکی را پرخطر می‌کند. بیماران باید از AI و چت‌بات‌ها فقط به‌عنوان ابزار مکمل برای کسب اطلاعات عمومی، کمک به درک مفاهیم پزشکی و یا طرح سؤال بهتر از پزشک استفاده کنند و برای تشخیص و درمان نهایی به پزشکان مراجعه کنند.