هوش مصنوعی حالا دیگر فقط یک ابزار جانبی در صنعت بیمه نیست؛ بلکه به‌تدریج در حال تبدیل شدن به بخشی از موتور تصمیم‌گیری شرکت‌های بیمه است. از ارزیابی ریسک و کشف تقلب گرفته تا قیمت‌گذاری و بررسی خسارت، الگوریتم‌ها هر روز نقش پررنگ‌تری در فرآیندهای بیمه‌ای پیدا می‌کنند.

اما یک پرونده جنجالی در آمریکا، بار دیگر این سؤال را به مرکز توجه آورده است: اگر یک الگوریتم درباره پوشش درمانی یا پرداخت خسارت تصمیم اشتباه بگیرد، چه کسی پاسخ‌گو است؟

اخیراً یک قاضی فدرال در ایالت مینه‌سوتا، شرکت بیمه و خدمات درمانی UnitedHealth Group را موظف کرده اسناد داخلی مربوط به استفاده از سیستم هوش مصنوعی در بررسی مطالبات بیمه‌ای را به دادگاه ارائه دهد. این پرونده اکنون به یکی از مهم‌ترین نمونه‌های حقوقی درباره نقش هوش مصنوعی در صنعت بیمه و سلامت تبدیل شده است.

ماجرا از کجا آغاز شد؟

پرونده مربوط به برنامه «Medicare Advantage» است؛ یکی از مهم‌ترین طرح‌های بیمه درمانی در آمریکا که خدمات درمانی سالمندان را پوشش می‌دهد.

شاکیان ادعا کرده‌اند شرکت از یک ابزار مبتنی بر هوش مصنوعی برای بررسی و رد درخواست‌های درمانی بیماران استفاده کرده و این سیستم، در بسیاری از موارد، پوشش درمانی بیماران را زودتر از موعد متوقف می‌کرده است.

طبق ادعاهای مطرح‌شده در دادگاه، درصد بالایی از این رد درخواست‌ها پس از اعتراض بیماران یا خانواده‌های آن‌ها لغو شده‌اند؛ موضوعی که منتقدان آن را نشانه‌ای از خطاهای گسترده در تصمیم‌گیری اولیه می‌دانند.

در مقابل، شرکت UnitedHealth Group این اتهامات را رد کرده و اعلام کرده که سیستم هوش مصنوعی تنها نقش «ابزار کمکی» داشته و تصمیم نهایی همواره توسط پزشکان اتخاذ شده است.

چرا این پرونده اهمیت زیادی دارد؟

اهمیت این پرونده فقط به یک شرکت بیمه محدود نمی‌شود. در واقع، این دعوا می‌تواند مسیر آینده تنظیم‌گری هوش مصنوعی در صنعت بیمه را تعیین کند.

دادگاه از شرکت خواسته اطلاعات گسترده‌ای را ارائه دهد، از جمله:

• مکاتبات داخلی درباره عملکرد سیستم هوش مصنوعی
• شاخص‌های ارزیابی دقت الگوریتم
• نحوه نظارت انسانی بر تصمیمات سیستم
• تحلیل‌های مرتبط با کاهش هزینه‌ها
• مستندات مربوط به نرخ خطا یا اعتراض کاربران

این یعنی دادگاه صرفاً به نتیجه تصمیمات نگاه نمی‌کند، بلکه می‌خواهد بداند «الگوریتم چگونه تصمیم گرفته است».

همین مسئله، مفهوم مهمی به نام «شفافیت الگوریتمی» را وارد مرکز بحث‌های صنعت بیمه کرده است.

شفافیت الگوریتمی؛ چالش جدید صنعت بیمه

در مدل سنتی بیمه، اگر خسارتی رد می‌شد یا پوششی تأیید نمی‌شد، معمولاً یک کارشناس یا پزشک مسئول پاسخ‌گویی بود. اما در عصر هوش مصنوعی، تصمیم‌گیری می‌تواند میان داده‌ها، مدل‌های آماری، الگوریتم‌ها و انسان‌ها تقسیم شود.

در چنین شرایطی چند سؤال کلیدی مطرح می‌شود:

• آیا مشتری حق دارد بداند الگوریتم چگونه درباره او تصمیم گرفته است؟
• اگر مدل هوش مصنوعی دچار سوگیری یا خطا شود، مسئولیت با چه کسی است؟
• آیا شرکت‌های بیمه باید منطق عملکرد الگوریتم‌های خود را افشا کنند؟
• نقش نظارت انسانی تا چه اندازه واقعی و مؤثر است؟

این پرسش‌ها حالا دیگر صرفاً دغدغه دانشگاهی یا تکنولوژیک نیستند؛ بلکه به مسائل حقوقی، اخلاقی و حتی reputational risk برای برندهای بیمه تبدیل شده‌اند.

صنعت بیمه چرا به هوش مصنوعی وابسته شده است؟

با وجود این چالش‌ها، استفاده از هوش مصنوعی در بیمه همچنان با سرعت بالایی در حال رشد است. دلیلش هم روشن است:

هوش مصنوعی می‌تواند:

• سرعت بررسی خسارت را افزایش دهد
• هزینه‌های عملیاتی را کاهش دهد
• تقلب بیمه‌ای را سریع‌تر شناسایی کند
• تحلیل ریسک را دقیق‌تر کند
• تجربه مشتری را شخصی‌سازی کند
• پاسخ‌گویی و پشتیبانی را هوشمندتر کند

برای شرکت‌های بیمه، این فناوری می‌تواند مزیت رقابتی جدی ایجاد کند. اما همین مزیت، اگر بدون چارچوب شفاف و نظارت کافی استفاده شود، می‌تواند به بحران اعتماد تبدیل شود.

آیا آینده بیمه بدون «AI Governance» ممکن است؟

پرونده UnitedHealth احتمالاً فقط آغاز یک موج بزرگ‌تر است. در بسیاری از کشورها، نهادهای تنظیم‌گر به‌دنبال تدوین قوانین جدید برای استفاده مسئولانه از هوش مصنوعی هستند؛ به‌ویژه در حوزه‌هایی که مستقیماً با سلامت، دارایی و زندگی مردم مرتبط‌اند.

در صنعت بیمه، مفهوم «AI Governance» یا حکمرانی هوش مصنوعی به‌سرعت در حال تبدیل شدن به یک ضرورت است؛ مفهومی که شامل موضوعاتی مانند:

• شفافیت تصمیم‌گیری
• قابلیت توضیح الگوریتم‌ها
• کنترل سوگیری داده‌ها
• نظارت انسانی
• امنیت داده‌ها
• مسئولیت‌پذیری حقوقی
• امکان اعتراض مشتری

می‌شود. به‌عبارت دیگر، آینده صنعت بیمه فقط به این بستگی ندارد که شرکت‌ها چقدر سریع‌تر از هوش مصنوعی استفاده می‌کنند؛ بلکه به این هم وابسته است که چقدر مسئولانه و شفاف از آن بهره می‌برند.

جمع‌بندی

پرونده اخیر UnitedHealth Group نشان می‌دهد که صنعت بیمه وارد مرحله تازه‌ای شده است؛ مرحله‌ای که در آن دیگر صرف استفاده از هوش مصنوعی کافی نیست و شرکت‌ها باید بتوانند درباره نحوه عملکرد این سیستم‌ها نیز پاسخ‌گو باشند.

احتمالاً در سال‌های آینده، رقابت اصلی فقط میان «شرکت‌های دیجیتال‌تر» نخواهد بود، بلکه میان برندهایی شکل می‌گیرد که بتوانند اعتماد کاربران را در عصر تصمیم‌گیری الگوریتمی حفظ کنند.

و شاید مهم‌ترین سؤال آینده بیمه این باشد: وقتی یک الگوریتم درباره سلامت، خسارت یا آینده مالی افراد تصمیم می‌گیرد، شفافیت دقیقاً از کجا آغاز می‌شود؟