هوش مصنوعی در مطب دکتر: چگونه استانداردها می توانند از قابلیت اعتماد حمایت کنند

وقتی به یک قرار پزشکی می روید، آیا دکتر در حین صحبت به شما نگاه می کند؟ یا آنها مشغول تایپ هر آنچه شما می گویید در رایانه هستند؟ اگر دومی باشد، ممکن است متوجه شوید که به لطف هوش مصنوعی (AI) به زودی تغییر خواهد کرد.

برخی از مطب پزشکان از خدمات رونویسی هوش مصنوعی برای رونویسی گفتگوی شما با پزشک و وارد کردن خودکار نتایج در پرونده الکترونیکی پزشکی شما استفاده می کنند.

این یک صرفه جویی در زمان برای پزشکان است اغلب ساعت ها وقت می گذارند پر کردن پرونده بیماران همچنین به آنها این امکان را می دهد که به جای صفحه نمایش رایانه خود به بیمار نگاه کنند.

همچنین ممکن است متوجه شده باشید که چت ربات‌های هوش مصنوعی هنگام بازدید از وب‌سایت شرکت می‌پرسند که آیا می‌توانند به شما کمک کنند. این ربات‌های چت هنوز در مراقبت‌های بهداشتی رایج نیستند، اما ممکن است در آینده به شما در مورد سوالات اولیه پزشکی کمک کنند. این می تواند وقت پزشک را برای نگرانی های پیچیده تر آزاد کند.

اینها تنها دو راهی هستند که هوش مصنوعی ممکن است بر مراقبت های بهداشتی آینده شما تأثیر بگذارد. اما با توجه به مخاطرات بالا، باید با استانداردهای متفکرانه انجام شود.

نیاز به استانداردهای هوش مصنوعی

اگر هوش مصنوعی در زمینه پزشکی (یا هر زمینه دیگری که در آن استفاده می شود) کار کند، باید استانداردهای خاص و مفیدی را ایجاد کنیم. اینها باید شامل ویژگی هایی باشد که می توان از آنها برای قضاوت یک مدل هوش مصنوعی در مورد قابلیت اطمینان و قابل اعتماد بودن آن استفاده کرد.

یکی از راه هایی که هوش مصنوعی می تواند قابل اعتماد بودن خود را ثابت کند، نشان دادن درستی آن است. اگر تا به حال یک ابزار هوش مصنوعی مولد داشته اید که با اطمینان به شما پاسخ اشتباهی را بدهد، احتمالاً از اهمیت این موضوع آگاه هستید. اگر ابزار هوش مصنوعی بگوید که یک بیمار سرطان دارد، پزشک و بیمار باید شانس درست یا غلط بودن هوش مصنوعی را بدانند.

مسئله دیگر قابلیت اطمینان است، به ویژه مجموعه داده هایی که ابزارهای هوش مصنوعی برای اطلاعات به آنها تکیه می کنند. همانطور که یک هکر می تواند یک ویروس را به یک شبکه کامپیوتری تزریق کند، یک نفر هم می تواند عمداً یک مجموعه داده هوش مصنوعی را آلوده کند تا آن را به شکلی شرورانه کار کند. در بسیاری از سیستم‌های هوش مصنوعی، که از مجموعه داده‌های بزرگ برای یادگیری استفاده می‌کنند، افراد می‌توانند تروجان‌هایی را مانند ویروس‌های کامپیوتری معرفی کنند. این می تواند استدلال سیستم هوش مصنوعی را تغییر دهد. این را می توان در سطح ورودی (مجموعه داده)، مدل (تفکر) یا محیط هوش مصنوعی و نحوه تعامل آن با جهان انجام داد.

به عنوان مثال، محققان با قرار دادن برچسب روی علامت توقف، یک تروجان را معرفی کردند. این تروجان ساخته شده است ماشین خودران از تابلوی ایست عبور می کند چون فکر می کرد علامت محدودیت سرعت است. بنابراین، اگر هوش مصنوعی غیرقابل اعتماد باشد، با خطراتی روبرو خواهیم شد. همکاران من در NIST (ولید کیروز، تیموتی بلاتنر و مایکل ماجورسکی) کارهای قابل توجهی برای کمک به شناسایی تروجان ها انجام می دهند که امیدوارم هوش مصنوعی را قابل اعتمادتر کند.

چرا استانداردهای هوش مصنوعی مهم هستند

استانداردها برای ارزیابی ابزارهای هوش مصنوعی با متداول‌تر شدن استفاده از آنها حیاتی خواهند بود. تحقیقات ما در NIST به تأثیرگذاری بر استانداردهای داوطلبانه در این زمینه کمک می کند، که به ایالات متحده کمک می کند تا در زمینه هوش مصنوعی، به ویژه در مراقبت های بهداشتی و پزشکی، در جهان پیشتاز باشد.

برخی افراد تصور ناعادلانه و نادرستی دارند که استانداردها مانع نوآوری می شوند. در واقع، استانداردها فقط مجموعه ای از قوانین توافق شده هستند که آن را تشویق می کنند.

یکی از نمونه های مورد علاقه من در موسیقی است.

هزاران سال پیش، موسیقی نوشته نشده بود. اما در قرن یازدهم، راهبی به نام Guido d'Arezzo یک سیستم اولیه برای نت نویسی موسیقی ایجاد کرد. نت‌نویسی موسیقی از آن زمان به استانداردی تبدیل شده است که به ما امکان می‌دهد موسیقی دیگران را از سراسر جهان یا از زمان‌های قبل پخش و بخوانیم. شما می توانید کار هر نوازنده ای را اجرا کنید به شرطی که خواندن موسیقی را بلد باشید.

من می توانم استدلال کنم که ما از قرن یازدهم تا حد زیادی به لطف این استاندارد، نوآوری های زیادی در موسیقی داشته ایم.

هوش مصنوعی می تواند سلول های بنیادی را ببیند

من قصد دارم در آینده از هوش مصنوعی در مراقبت های بهداشتی خودم استفاده کنم. من یکی از چندین میلیون نفر در ایالات متحده هستم که دارای جهش ژنی دژنراسیون ماکولا وابسته به سن هستند. اگرچه باعث نابینایی کامل نمی شود، اما می تواند دیدن از نزدیک، خواندن یا رانندگی را دشوارتر کند. خوشبختانه، کاشت سلول های بنیادی که از سلول های خود بیمار رشد می کند، راه حل امیدوارکننده ای برای حفظ بینایی ارائه می دهد.

با این حال، در طول فرآیند تولید، این سلول‌های زنده دچار تغییرات متعددی می‌شوند که می‌تواند خطراتی برای سلامتی بیمار ایجاد کند. هوش مصنوعی می تواند کیفیت سلول ها را به گونه ای بررسی کند که بتواند پیش بینی کند کدام سلول برای بیمار بهتر عمل می کند.

همکار من در NIST، پیتر باجسی، و همکارانش در NIST و NIH سهم قابل توجهی به این فناوری کار آنها منجر به درمان تایید شده توسط FDA برای دژنراسیون ماکولا وابسته به سن شده است که قبلاً در بیماران موفقیت آمیز بوده است.

دانستن اینکه اگر برای محافظت از بینایی خود در آینده به آن نیاز داشته باشم، اطمینان بخش است که بدانم این فناوری در دسترس است. بنابراین، کمک به اطمینان از عملکرد بهینه هوش مصنوعی می تواند به میلیون ها نفر از جمله من کمک کند.

آینده هوش مصنوعی در مراقبت های بهداشتی

بسیاری از اعضای خانواده من – از جمله همسر و برادرم – پزشک هستند. خانواده من آنقدر در رشته پزشکی غرق هستند که سر الکساندر فلمینگاو که پنی سیلین را کشف کرد، دوست پدربزرگم بود. فلمینگ در سفرش به مدرس هندوستان هر روز با پدربزرگم چای می خورد.

بنابراین، من می خواهم ببینم که هوش مصنوعی به پزشکان کمک می کند، نه اینکه آنها را جایگزین کنند. در این مورد، من هوش مصنوعی را هوش «افزوده» می‌دانم، نه هوش مصنوعی. من دوست دارم ببینم که هوش مصنوعی به نقطه ای برسد که بتواند به پزشکان در حوزه های مختلف مراقبت های بهداشتی که ممکن است کمک کند.

من به این موضوع خیلی علاقه دارم زیرا می خواهم ببینم که فناوری مراقبت های بهداشتی را برای افراد بیشتری در دسترس قرار دهد.

مثال ابتدای این پست را به خاطر دارید؟ من امیدوارم که اگر پزشکان بتوانند از هوش مصنوعی به عنوان یادداشت‌بردار خود استفاده کنند، علاوه بر کمک به تصمیم‌گیری، بتوانند زمان کمتری را صرف کارهای اداری و زمان بیشتری برای دیدن بیماران کنند.