به نام خدا

هوش مصنوعی قابل اعتماد و اخلاقی در سلامت و پزشکی

هوش مصنوعی یک حوزه از فناوری است که به سرعت در حال رشد است و پیامدهای بالقوه قابل توجهی برای جامعه بشری دارد. به همراه اینترنت اشیا، فناوری های شناختی، فناوری کوانتومی و چندین فناوری دیگر، هوش مصنوعی دگرگون سازترین فناوری محسوب می‌شود و در سالهای اخیر بخش‌های متعددی مانند مراقبت‌های پزشکی، پیش گیری و درمان، طراحی دارو، کشاورزی، آموزش، حمل ونقل،‌ توسعه شهری و روابط بین المللی را تحت تأثیر قرار داده است. عدم توجه به این علم و فناوری می تواند کشور را از دیدگاه اقتصادی و امنیت ملی آسیب پذیر نماید. علاوه بر این، کشورها ی پیشرو دنیا در حال توسعه برنامه های کاربردی هوش مصنوعی برای طیف وسیعی از کاربردهای حوزه سلامت هستند و در سالهای پیش رو، سامانه های هوش مصنوعی، به عنوان دستیار متخصصین، توانایی کسب و به کارگیری دانش و مهارت‌ها را برای انجام یک فرآیند مشابه انسانها را تجربه خواهند کرد.

در اقتصاد و تحول دیجیتالی هوشمند آینده (اقتصاد پلتفرمی) خدمات متنوعی از طریق پلتفرمهای هوشمند ارایه خواهند شد که سبک زندگی انسان را تغییر خواهد و پلتفرمهای هوشمند تمامی زیرساخت های موجود را دگرگون خواهند کرد. برای نمونه، پلتفرمهای هوشمند سلامت با ارایه سامانه های تشخیصی هوشمند، با دقت بالا به کمک پزشکان در تشخیص انواع سرطان و بیماری های دیگر خواهند آمد. بر اساس مطالعات شرکت های معتبر تحقیق بازار دنیا، بازار جهانی هوش مصنوعی در سلامت تا سال ۲۰۲۶ به حدود ۱۵۰ میلیارد دلار خواهد رسید.

البته در کنار مزایای هوش مصنوعی، هنوز مشکلات بسیاری وجود دارد که استفاده از آن را به خصوص در حوزه سلامت به چالش کشیده است. لذا تمامی سازمانهای بین المللی مانند سازمان بهداشت جهانی و بسیاری از کشورها مانند اتحادیه اروپا، تاکید بر استفاده از سامانه های هوش مصنوعی قابل اعتماد و اخلاقی دارند. هوش مصنوعی قابل اعتماد اطمینان حاصل می‌کند که سامانه‌های هوش مصنوعی به گونه‌ای طراحی و مورد استفاده قرار ‌گیرند که اعتماد، شفافیت، انصاف و رفاه انسان را ارتقاء دهند. ویژگی‌های هوش مصنوعی قابل اعتماد عبارتند از:

• قابلیت اطمینان: سامانه‌های‌ هوش مصنوعی باید قابل اعتماد باشند و دقیقا برای اهدافی که طراحی شده اند عمل کنند و خطاها و سوگیری ها را به حداقل برسانند.
• شفافیت: سامانه‌های‌ هوش مصنوعی باید توصیف پذیر باشند و استدلال روشنی در پشت تصمیم‌ها و اقدامات خود ارائه دهند. کاربران و ذینفعان باید بتوانند درک کنند که سامانه هوش مصنوعی چگونه کار می کند و چرا نتایج خاصی را ایجاد می کند.
• کاهش تبعیض: سامانه‌های‌ هوش مصنوعی قابل اعتماد باید به گونه ای طراحی شوند که از تعصبات و تبعیض های ناعادلانه جلوگیری کنند. آنها باید با همه افراد منصفانه رفتار کنند، بدون اینکه هیچ گروه خاصی را بر اساس ویژگی هایی مانند نژاد، جنسیت یا وضعیت اقتصادی-اجتماعی مورد حمایت یا ضرر قرار دهند.
• حریم خصوصی: سامانه های قابل اعتماد هوش مصنوعی باید به حریم خصوصی کاربر احترام بگذارند و داده ها را به شیوه ای امن و مسئولانه اداره کنند. آنها باید به مقررات حفاظت از داده ها پایبند باشند و اطمینان حاصل کنند که اطلاعات شخصی به طور مناسب جمع آوری، ذخیره و استفاده شود.
• مسئولیت پذیری: سامانه های هوش مصنوعی باید در قبال اقدامات و تصمیماتشان پاسخگو باشند. این شامل مکانیسم‌هایی برای شناسایی و رسیدگی به خطاها یا سوگیری‌ها، و همچنین خطوط روشن مسئولیت پذیری برای نتایج سامانه‌های هوش مصنوعی است.
• رفاه انسان: هوش مصنوعی قابل اعتماد باید رفاه انسان را در اولویت قرار دهد و به نفع جامعه عمل کند. علاوه بر این، باید با هدف افزایش قابلیت‌های انسانی، ارتقای ارزش‌های انسانی و در نظر گرفتن تأثیر اجتماعی گسترده‌تر طراحی و به کار گرفته شود.

برای ارتقای هوش مصنوعی قابل اعتماد، ذینفعان مختلف، از جمله محققان، سیاست گذاران، رهبران صنعت، و سازمان های جامعه، باید برای توسعه دستورالعمل ها، استانداردها و چارچوب های مناسب همکاری کنند. هدف از این همکاری ایجاد اصول اخلاقی و فنی است که بر توسعه، استقرار و استفاده از سامانه‌های هوش مصنوعی حاکم است و اطمینان حاصل می‌کند که آنها با ارزش‌های اخلاقی و نیازهای اجتماعی همسو هستند. هوش مصنوعی اخلاقی به معنای این است که سامانه‌های هوش مصنوعی باید با رعایت اصول و قوانین، اخلاقی عمل کنند و تصمیماتی بگیرند که با ارزش‌های اخلاقی انسان‌ها سازگار باشند. این مفهوم در حوزه هوش مصنوعی مورد توجه قرار گرفته است، زیرا با توسعه سامانه‌های هوش مصنوعی قوی و پیچیده، مسائلی مانند تصمیمات و انتخاب‌های اخلاقی مطرح می‌شوند که نیازمند بررسی و توجه به جنبه‌های اخلاقی آن‌ها می‌باشد:

• ارزش‌ها و اخلاق: سامانه هوش مصنوعی اخلاقی باید قادر باشد ارزش‌ها و اصول اخلاقی را درک کند و در تصمیمات خود این ارزش‌ها را رعایت کند. این ارزش‌ها ممکن است شامل عدالت، حقوق بشر، عدم ضرر رسانی، حریم خصوصی و سایر ارزش‌های مورد توجه جامعه بشری باشند.
• مسئولیت اخلاقی: سامانه های هوش مصنوعی اخلاقی باید مسئولیت تصمیمات و اقدامات خود را به نوعی بر عهده داشته باشند. این به معنای آن است که سامانه باید به عنوان یک عامل اخلاقی شناخته شده و مسئولیت اثرات و پیامدهای اخلاقی تصمیمات خود را بپذیرد.
• تصمیمات اخلاقی: سامانه هوش مصنوعی اخلاقی باید توانایی تصمیم‌گیری در مواردی که ارزش‌های اخلاقی درگیر هستند را داشته باشد. این شامل مواردی می‌شود که برای تصمیم‌گیری نیاز به انتخاب بین گزینه‌های متعارض را دارد.
• تفسیر و توجیه: سامانه هوش مصنوعی اخلاقی باید بتواند تصمیمات و اقدامات خود را توجیه کند و توضیح دهد که چرا یک تصمیم خاص را انتخاب کرده است. این امر به کاربران و سایر افراد کمک می‌کند تا درک بهتری از رفتار سامانه داشته باشند و به ارزش‌های اخلاقی سامانه اعتماد کنند.
• توصیف پذیری: سامانه هوش مصنوعی اخلاقی باید بتواند تصمیمات و اقدامات خود را توجیه کند و توضیح دهد که چرا یک تصمیم خاص را انتخاب کرده است. این امر به کاربران و سایر افراد کمک می‌کند تا درک بهتری از رفتار سامانه داشته باشند و به ارزش‌های اخلاقی سامانه اعتماد کنند.
• حفظ حریم خصوصی و امنیت: سامانه هوش مصنوعی اخلاقی باید حریم خصوصی افراد را رعایت کند و اطلاعات حساس را به طور محرمانه و امن از سوی کاربران مورد استفاده قرار دهد. این شامل جلوگیری از سواستفاده از اطلاعات شخصی و حفظ امنیت سامانه در برابر حملات و نفوذهای خارجی است.
• همکاری با انسان‌ها: سامانه هوش مصنوعی اخلاقی باید قادر باشد با انسان‌ها به طور اثربخش و اخلاقی همکاری کند. این شامل تفهیم نیازها و اهداف انسانی، تعامل موثر در فرایند تصمیم‌گیری و ارائه راهنمایی و پشتیبانی مناسب به انسان‌ها است.

هرچند که هوش مصنوعی اخلاقی یک مفهوم مهم است، اما هنوز در مراحل اولیه توسعه قرار دارد و چالش‌های بسیاری را برای پژوهشگران و صنعتگران در زمینه سلامت ایجاد می‌کند. این شامل مسائلی مانند تعریف دقیق ارزش‌ها و اصول اخلاقی، پیاده‌سازی تصمیم‌گیری اخلاقی در سامانه‌های هوش مصنوعی پیچیده، و مسائل حقوقی و قانونی مربوط به مسئولیت سامانه‌های هوش مصنوعی در سلامت می‌باشد.

لذا برگزاری کنگره های کاربرد هوش مصنوعی در سلامت امری ضروری است تا در آن کارشناسانان حوزه هوش مصنوعی و متخصصین سلامت بتوانند با تعامل سازنده راهکارهای مناسبی برای حل این چالشهای بین رشته ای بیابند. در این کنگره دانشمندان و متخصصین حوزه های پزشکی و مهندسی در قالب سخرانیها و مناظره‌های متعدد به برخی از این فرصت ها و چالش‌ها در حوزه سلامت و پزشکی خواهند پرداخت.

حمیدرضا ربیعی

دبیر علمی