▫️چت‌بات Bing، سوالات بیماران در خصوص نحوه استفاده از داروها را پاسخ می دهد ولی ممکن است منجر به مرگ آنها هم بشود! در یک اکتبر 2024 در مجله BMJ Quality & Safety مطالعه ای با عنوان زیر منتشر شده است: Artificial intelligence-powered chatbots in search engines: a cross-sectional study on the quality and risks of drug information for patients در زیر خلاصه‌ای از این مقاله را به زبان فارسی آورده‌ام: در عصر دیجیتال، بیش از نیمی از شهروندان اتحادیه اروپا و ایالات متحده برای کسب اطلاعات دارویی و بهداشتی به اینترنت مراجعه می‌کنند. موتورهای جستجو، ابزار اصلی برای دستیابی به این اطلاعات هستند. اخیراً، با معرفی چت‌بات‌های مبتنی بر هوش مصنوعی در فوریه 2023، تحول عمده‌ای در عرصه موتورهای جستجو رخ داده است. اگرچه این فناوری‌ها پتانسیل بالایی دارند، اما خطراتی مانند تولید اطلاعات نادرست یا مضر را نیز به همراه دارند. با توجه به اهمیت این موضوع، مطالعه‌ای توسط گروهی از محققان با هدف بررسی کیفیت و خطرات احتمالی اطلاعات دارویی ارائه شده توسط این چت‌بات‌ها برای بیماران انجام شد. این مطالعه مقطعی بر روی چت‌بات Bing، که در موتور جستجوی مایکروسافت تعبیه شده، متمرکز بود (در آوریل 2023) روش تحقیق به این صورت بود که 10 سؤال رایج بیماران در مورد 50 داروی پر تجویز در آمریکا از چت‌بات Bing پرسیده شد. این سؤالات شامل مواردی درباره موارد مصرف دارو، مکانیسم عمل، دستورالعمل‌های مصرف، عوارض جانبی و موارد منع مصرف بود. تمام پرامپت‌ها به زبان انگلیسی و در حالت " balanced" چت‌بات انجام شد. (در بینگ سه حالت creative، balanced و precise وجود دارد.) برای ارزیابی پاسخ‌های چت‌بات، سه معیار اصلی مورد بررسی قرار گرفت: خوانایی (Readability)، جامعیت (Completeness) و دقت (Accuracy). خوانایی پاسخ‌ها با استفاده از معیار Flesch Reading Ease Score سنجیده شد. برای ارزیابی جامعیت و دقت، یک پایگاه داده مرجع با استفاده از اطلاعات دارویی معتبر از وب‌سایت drugs.com ایجاد شد (توسط یک داروساز بالینی و یک پزشک با تخصص داروشناسی). پاسخ‌های چت‌بات به گزاره‌های جداگانه تقسیم و با این پایگاه داده مقایسه شدند. نتایج نشان داد که میانگین نمره خوانایی پاسخ‌های چت‌بات 37.2 از 100 بود، که نشان‌دهنده دشواری درک این پاسخ‌ها برای عموم مردم است و نیاز به سطح تحصیلات دانشگاهی برای درک آنها را نشان می‌دهد. میانه جامعیت پاسخ‌ها 100% (با میانگین 76.7%) و میانه دقت 100% (با میانگین 88.7%) بود. علاوه بر این ارزیابی‌های کمی، یک زیر مجموعه از 20 پاسخ چت‌بات که دقت یا جامعیت پایینی داشتند یا خطر بالقوه‌ای برای ایمنی بیمار ایجاد می‌کردند، توسط هفت متخصص در زمینه ایمنی دارویی مورد بررسی قرار گرفت. این ارزیابی شامل بررسی اجماع علمی (scientific consensus)، احتمال آسیب و میزان آسیب احتمالی بود. نتایج این ارزیابی تخصصی نشان داد که تنها 54% از پاسخ‌های بررسی شده با اجماع علمی همسو بودند، در حالی که 39% مخالف اجماع علمی و 6% بدون اجماع علمی مشخص بودند. از نظر احتمال آسیب، 66% از پاسخ‌ها دارای پتانسیل آسیب‌رسانی تشخیص داده شدند، که از این میان 3% احتمال بالا، 29% احتمال متوسط و 34% احتمال پایین آسیب‌رسانی داشتند. در مورد شدت آسیب احتمالی، 22% از پاسخ‌ها می‌توانستند منجر به آسیب شدید یا حتی مرگ شوند، 42% آسیب متوسط تا خفیف و 36% بدون آسیب ارزیابی شدند. محققان چندین دلیل فنی برای کیفیت پایین برخی از پاسخ‌های چت‌بات شناسایی کردند. اول اینکه، چت‌بات‌ها می‌توانند اطلاعات را از منابع مختلف اینترنتی، اعم از معتبر و نامعتبر، استخراج کنند. دوم، چت‌بات‌ها به جای ارجاع به پاراگراف‌های خاص، به کل وب‌سایت‌ها ارجاع می‌دهند که می‌تواند منجر به ترکیب نادرست اطلاعات شود. سوم، چت‌بات‌ها قادر به تأیید به‌روز بودن منابع نیستند و ممکن است اطلاعات قدیمی ارائه دهند. این مطالعه نشان داد که اگرچه چت‌بات‌های مبتنی بر هوش مصنوعی قادر به ارائه پاسخ‌های نسبتاً کامل و دقیق به سؤالات دارویی بیماران هستند، اما پیچیدگی پاسخ‌ها و خطر ارائه اطلاعات نادرست یا ناقص می‌تواند ایمنی بیمار را به خطر بیندازد. محققان توصیه می‌کنند که تا زمان دستیابی به راه‌حل‌های دقیق‌تر و قابل اعتمادتر، در توصیه استفاده از این ابزارها به بیماران احتیاط شود. در نهایت، این مطالعه تأکید می‌کند که علی‌رغم پتانسیل بالای فناوری هوش مصنوعی در ارائه اطلاعات دارویی، همچنان نیاز به بهبود و نظارت دقیق وجود دارد تا بتوان از آن به عنوان منبعی ایمن و قابل اعتماد برای بیماران استفاده کرد. تا آن زمان، مشاوره با متخصصان و حرفه‌مندان سلامت همچنان مهم‌ترین و ایمن‌ترین راه برای دریافت اطلاعات دارویی صحیح و مناسب برای بیماران باقی می‌ماند. #AI #copilot 🆔 @irevidence