أظهرت دراسة حديثة نشرتها مجلة نيتشر ميديسن ونقلها معهد ماساتشوستس للتكنولوجيا مفارقة مثيرة حول تأثير شرح قرارات الذكاء الاصطناعي في التشخيصات الطبية، خاصة في مجال الأمراض الجلدية، حيث يبدو أن الشرح الذي يقدمه النموذج قد يزيد من ثقة المستخدمين في الإجابات الخاطئة بدلاً من تعزيز دقة التشخيص.
وأجرى الباحثون تجربتين شملتا مئات المشاركين من غير المتخصصين وأطباء الرعاية الأولية، واختبروا عدة طرق لشرح تشخيصات نموذج الذكاء الاصطناعي، مثل عرض درجة الثقة، والصور المشابهة، وخرائط توضح المناطق المهمة في الصورة، بالإضافة إلى تفسيرات مكتوبة بلغة بسيطة أنتجها نموذج لغوي كبير، وكان الهدف من هذه الطرق تحسين فهم المستخدمين لقرارات النظام.
وأظهرت النتائج أن النظام المصمم لتحقيق أداء متوازن عبر مختلف ألوان البشرة ساعد في رفع دقة التشخيص وتقليل الفوارق المرتبطة بلون الجلد، لكن تأثير شرح الذكاء الاصطناعي اختلف بشكل واضح بين الجمهور والأطباء، حيث كان غير المتخصصون أكثر عرضة للانحياز إلى الأتمتة، أي الميل إلى قبول توصيات النظام حتى عندما تكون خاطئة، وكان هذا التأثير ملحوظًا خصوصًا عند تقديم تفسيرات تبدو منطقية ومقنعة.
في المقابل، أظهر أطباء الرعاية الأولية قدرة أكبر على الاستفادة من الذكاء الاصطناعي من دون الوقوع في نفس الأخطاء، كما أشارت الدراسة إلى أن ترتيب عرض المعلومات يلعب دورًا مهمًا، لأن مشاهدة تشخيص الآلة قبل تكوين رأي المستخدم قد تخلق انحيازًا مبكرًا يصعب التخلص منه، مما يطرح تساؤلات حول كيفية تصميم تطبيقات التشخيص الصحي التي تصل مباشرة إلى ملايين الأشخاص الذين يفتقرون إلى الخلفية الطبية اللازمة للكشف عن الأخطاء المقنعة.
