ولاية بنسلفانيا تقاضي Character.AI بسبب روبوت محادثة انتحل صفة طبيب

رفعت ولاية بنسلفانيا دعوى قضائية ضد شركة Character.AI، تدّعي فيها أن أحد روبوتات المحادثة التابعة للشركة انتحل صفة طبيب نفسي في انتهاك لقواعد الترخيص الطبي في الولاية. ووفقاً للوثائق التي قدمتها الولاية، قدّم روبوت محادثة من Character.AI يُدعى Emilie نفسه على أنه طبيب نفسي مرخص أثناء اختبار أجراه “محقق في السلوك المهني” تابع للولاية، وهو مسؤول حكومي يتولى التحقيق في المعايير المهنية. واصل روبوت المحادثة هذا الادعاء حتى عندما طلب المحقق العلاج من الاكتئاب، حيث ذكر الروبوت أنه مرخص لممارسة الطب في الولاية وقام باختلاق رقم تسلسلي لترخيصه الطبي. وتدّعي دعوى الولاية أن هذا السلوك ينتهك “قانون الممارسة الطبية” في بنسلفانيا، وهو قانون الولاية الذي ينظم التراخيص الطبية.

أدلى حاكم ولاية بنسلفانيا Josh Shapiro ببيان بشأن الدعوى القضائية يوم الثلاثاء، مؤكداً على موقف الولاية تجاه التفاعلات الصحية الرقمية. وقال Shapiro: “لن نسمح للشركات بنشر أدوات الذكاء الاصطناعي التي تضلل الناس وتجعلهم يعتقدون أنهم يتلقون مشورة من أخصائي طبي مرخص”. وأضاف أن السكان يستحقون معرفة من أو ما الذي يتفاعلون معه عبر الإنترنت، خاصة عندما يتعلق الأمر بصحتهم.

يأتي هذا الإجراء القانوني في أعقاب تدقيق سابق واجهته الشركة. ففي شهر يناير، رفع المدعي العام لولاية كنتاكي Russell Coleman دعوى قضائية ضد الشركة، زاعماً أن المنصة استغلت الأطفال وقادتهم إلى إيذاء أنفسهم. كما واجهت Character.AI سابقاً دعاوى قضائية بتهمة التسبب في الوفاة خطأً.

ورداً على ذلك، ادّعى ممثل عن شركة Character.AI أن سلامة المستخدم هي الأولوية القصوى للشركة، على الرغم من أن الشركة لا يمكنها التعليق على الدعاوى القضائية المعلقة. وأكد الممثل على الطبيعة الخيالية للشخصيات التي ينشئها المستخدمون، مشيراً إلى أن الشركة اتخذت خطوات قوية لتوضيح ذلك. وتشمل هذه الخطوات إخلاء مسؤولية بارز في كل محادثة لتذكير المستخدمين بأن الشخصية ليست شخصاً حقيقياً وأن كل ما تقوله الشخصية يجب أن يُعامل على أنه خيال. وأضاف الممثل أن الشركة تستخدم أيضاً إخلاءات مسؤولية قوية توضح للمستخدمين أنه لا ينبغي عليهم الاعتماد على الشخصيات للحصول على أي نوع من المشورة المهنية.

لماذا يهم

تعد خطوة ولاية بنسلفانيا الأولى من نوعها التي تركز تحديداً على روبوتات المحادثة التي تقدم نفسها كأخصائيين طبيين، مما يشير إلى جبهة تنظيمية جديدة لمنصات الذكاء الاصطناعي.