بازاریابی سیاسی

آخرين مطالب

چگونه از عملکرد مخرب هوش مصنوعی پیشگیری کنیم؟ اخبار

چگونه از عملکرد مخرب هوش مصنوعی پیشگیری کنیم؟

  بزرگنمايي:

سیاست و بازاریابی - هوش مصنوعی با وجود تمامی کاربردها و نقاط قوت، می‌تواند با عملکرد اشتباه، نتایج مخرب و مرگباری به‌همراه داشته باشد.

اگر نگاهی به اخبار و مقاله‌های پیرامون هوش مصنوعی داشته باشید، متوجه رخدادهایی شامل اشتباهات این پدیده‌های مدرن می‌شوید. در بسیاری از رخدادهای مذکور، تغییری جزئی در الگوریتم‌های یادگیری ماشین می‌تواند منجر به تغییرات بزرگ در عملکرد آن شود. مقاله‌های مرتبط:
گرفتاری هوش مصنوعی در دام وهم و خیال چه تبعاتی دارد؟ تاریخچه ناگفته هوش مصنوعی؛ انسان‌هایی که ماشین‌های هوشمند را ساختند
به‌عنوان نمونه‌ای از عملکردهای اشتباه هوش مصنوعی، می‌توان آزمایش داون سانگ، استاد دانشگاه یو‌سی برکلی را بیان کرد که با چسباندن چند برچسب روی علامت توقف در خیابان، الگوریتم را دچار اشتباه کرد. الگوریتم مورد آزمایش، تابلوی توقف را با تابلوی حداکثر سرعت اشتباه گرفته بود. سانگ در آزمایشی دیگر از پیام‌های ساختگی استفاده کرد تا یک مدل مبتنی بر متن را مجبور به ارائه‌ی اطلاعات حساس داخلی همچون اطلاعات کارت اعتباری کاربران کند. به‌علاوه، چند ماه پیش گزارشی از هکرهای کلاه سفید منتشر شده بود که توانسته بودند با چند برچسب، اتومبیل بدون راننده‌ی تسلا را به جهت خلاف خیابان هدایت کنند. در سال‌های اخیر، الگوریتم‌های یادگیری ماشین پیشرفت‌های زیادی داشته‌اند و حضور آن‌ها در زندگی کاربران، فراگیرتر شده است. محققان با بررسی این پدیده‌های پرکاربرد، نمونه‌های متعددی از اشتباهات آن‌ها کشف کرده‌اند که از اشتباه در تشخیص تصاویر تا تشخیص سرطان را تشکیل می‌دهد. چنین اشتباهاتی می‌تواند اثراتی در بازه‌ی بی‌خطر تا مرگ‌بار داشته باشد. البته با وجود خطر چنین اشتباهاتی، عموما شناخت کمتری درباره‌ی آن‌ها پیدا می‌کنیم و محققان نگران حل کردن این چالش عدم شناخت هستند.
مقاله‌ای جدید از دانشمندان دانشگاه MIT، روش‌هایی احتمالی برای حل چالش اشتباهات هوش مصنوعی ارائه می‌کند. روش جدید به محققان امکان می‌دهد تا مدل‌های قوی‌تر یادگیری ماشین توسعه دهند که ایجاد اشکال عملکردی در آن‌ها تقریبا غیرممکن باشد. پیش از پرداختن به روش موجود، باید مفاهیم اولیه در اشتباهات عملکردی هوش مصنوعی را درک کنیم. هوش مصنوعی با اضافه شدن برخی عوامل به داده‌ها، دچار اشتباه می‌شود
قدرت اصلی فرایندهای یادگیری عمیق ، از توانایی آن‌ها در تشخیص الگو میان داده‌ها نشأت می‌گیرد. به‌عنوان مثال اگر ده‌ها هزار عکس حیوان با برچسب‌گذاری نام را به یک الگوریتم یادگیری ماشین بدهیم، الگوریتم می‌تواند الگوهای مرتبط با یک حیوان خاص، مثلا پاندا یا میمون را شناسایی کند. سپس می‌تواند از همین الگوها برای شناسایی حیوانات در مجموعه‌های جدید تصاویر استفاده کند. مدل‌های یادگیری عمیق با وجود توانایی‌های بالا، آسیب‌پذیری زیادی هم دارند. به‌بیان دیگر، الگوریتم‌ها تنها روی الگوهای پیکسلی تصاویر متمرکز می‌شوند و درک صحیحی از آن‌چه می‌بینند، ندارند. درنتیجه به‌راحتی می‌توان با دستکاری در الگوهای پیکسلی، سوژه‌ی مورد مشاهده‌ی الگوریتم‌ را تغییر داد. به‌عنوان مثال در تصویر پایین با اضافه کردن کمی نویز به تصویر پاندا، هوش مصنوعی با درجه‌ی اطمینان بالا آن را میمون تشخیص می‌دهد. در این مثال می‌توان نویز را نوعی حمله به تصمیم‌گیری هوش مصنوعی دانست.
محققان از سال‌ها پیش متوجه آسیب‌پذیری هوش مصنوعی خصوصا در بحث بینایی کامپیوتری شده‌اند. البته آن‌ها راهی برای گریز از آسیب‌پذیری مذکور نداشته‌اند. مقاله‌ای از محققان هوش مصنوعی، این سؤال را می‌پرسد که آیا حملات به تصمیم‌گیری هوش مصنوعی اجتناب‌ناپذیر هستند؟ مقاله‌ی مدکور در کنفرانس تحقیقات هوش مصنوعی ICLR ارائه شد. درنهایت به‌نظر می‌رسد صرف‌نظر از تعداد عکس‌هایی که به یک الگوریتم تزریق می‌شوند، همیشه راه‌هایی خواهد بود تا الگوی تشخیصی را دچار اشتباه کنیم. مقاله‌ی جدید دانشگه MIT ادعا می‌کند که تصورات درباره‌ی حملات تصمیم‌گیری هوش مصنوعی تاکنون اشتباه بوده‌اند. طبق ادعای محققان، به‌جای پیدا کردن روش‌هایی برای جمع‌آوری داده‌های آموزشی بیشتر و ارائه‌ی آن‌ها به الگوریتم یادگیری عمیق، باید به‌صورت بنیادی روش آموزش دادن به الگوریتم را تغییر دهیم. برای پیشگیری از اشتباه، باید روش آموزش الگوریتم را تغییر دهیم
محققان برای نشان دادن اهمیت و تأثیر بالای اشتباهات تشخیصی الگوریتم هوش مصنوعی، مثالی ملموس را در مقاله ذکر کرده‌اند. در بخشی از مقاله می‌خوانیم که نویزهای تقریبا تصادفی و برچسب‌هایی که روی تابلوها نصب می‌شوند، به الگوهای دقیق و منحصر به‌فرد الگوریتم آسیب می‌رسانند. الگوهایی که هر کدام برای تشخیص یک سوژه‌ی خاص شکل گرفته‌اند. به‌بیان ساده‌تر، وقتی ماشین در تصویر پاندا میمون می‌بیند، رفتار غلطی انجام نداده است. درواقع الگوریتم مورد نظر، الگویی از پیکسل‌ها (که از دید انسان مخفی هستند) را می‌بیند که قبلا و در فرایند یادگیری، بیشتر در تصویر میمون دیده بود. برای درک بهتر اشتباهات الگوریتم هوش مصنوعی، یک آزمایش انجام شد. محققان از مجموعه‌ای تصویر سگ استفاده کردند که تغییرات کوچکی در آن‌ها داده شده بود. همین تغییرات باعث می‌شد تا الگوریتم‌های مرسوم، تصاویر را به‌عنوان تصویر گربه ببینند. سپس تصویرهای دستکاری‌شده با برچسب گربه به الگوریتم تازه تزریق شدند. درنهایت تصاویر جدیدی از گربه‌های واقعی به الگوریتم نمایش داده شد. الگوریتم جدید همه‌ی تصاویر گربه را به‌خوبی شناسایی کرد.
محققان با تکیه بر مثال بالا، نتیجه گرفتند که در هر مجموعه‌ی داده، دو نوع الگو دیده می‌شود: الگوهایی که با معنای داده ارتباط دارند، مانند سبیل گربه در تصویر گربه یا موهای پاندا و الگوهایی که در داده‌های تمرینی وجود دارند، اما لزوما در زمینه‌های دیگر صادق نیستند. نوع دوم الگوها منجر به اشتباه در هوش مصنوعی می‌شوند و همان ابزارهای مورد استفاده برای حمله به تصمیم‌گیری هستند. باتوجه‌به یافته‌های بالا به این نتیجه می‌رسیم که اگر بخواهیم ریسک تصمیم‌گیری هوش مصنوعی را کاهش دهیم، باید روش آموزش به مدل‌های یادگیری عمیق تغییر کند. درحال‌حاضر، دانشمندان هوش مصنوعی به شبکه‌ی عصبی اجازه می‌دهند که هرنوع ارتباط مورد نظر خودش را برای تشخیص تصاویر استفاده کند. درنتیجه هیچ کنترلی روی ارتباط تصاویر و الگوی ایجادشده بر اثر آن ندارند. درمقابل اگر بتوان به مدل آموزش داد که تنها فاکتورهای مرتبط واقعی (که به‌معنای تصویر نزدیک هستند) را به‌عنوان الگو انتخاب کند، تاحدودی موفق خواهیم بود. محققان با تکیه بر نتیجه‌گیری‌های قبلی، آزمایشی شامل آموزش ازطریق ارتباطات واقعی را روی الگوریتم یادگیری عمیق پیاده کردند. روش جدید، آسیب‌پذیری مدل را کاهش داد و تنها در 50 درصد مواقع، محققان توانستند آن را دچار اشتباه کنند. شایان ذکر است مدل‌های دیگر تا 95 درصد احتمال خطا داشتند. به‌‌هرحال اشتباهات تشخیصی هنوز در الگوریتم‌های هوش مصنوعی وجود دارند و ما تنها می‌توانیم آن‌ها را به‌مرور کاهش دهیم تا شاید زمانی به صفر برسند.





نظرات شما

ارسال دیدگاه

Protected by FormShield

ساير مطالب

قیمت بهترین خودروهای لوکس دست دوم در بازار جهانی

تعداد مشترکین اینترنت 5G در کره جنوبی به یک میلیون نفر رسید

نگاه نزدیک ویدئویی به گوشی موبایل بلو مدل R2 و مدل Advance L4

بیوگرافی ویلیام تامسون مشهور به لرد کلوین، دانشمند بزرگ الکتریسیته و ترمودینامیک

اعلام شکست گوگل در پروژه تحقیقاتی همجوشی سرد

سفارش آنلاین از سوپرمارکت ها با اسنپ فود

شیائومی عرضه نسخه بتای رابط کاربری MIUI را متوقف می‌کند

مایکروسافت امکان برنامه‌نویسی به‌زبان جاوا را در VS Code فراهم کرد

افسانه‌های استراتژی؛ شماره 9: استراتژی باید خارج از سازمان تنظیم شود

آفت اکوسیستم استارتاپی؛ از منتورنماها تا دنیای خوش آب‌ و‌ رنگ استارتاپی

تلاش چندین‌ ماهه گروهی از هکرها برای نفوذ به نیروگاه‌‌های برق آمریکا

هوش مصنوعی ادوبی تصاویر جعلی و دست‌کاری‌شده را شناسایی می‌کند

شرکت ایزی؛ نماینده برتر دی لینک در خاورمیانه و شمال آفریقا

هرآنچه باید درباره شارژ بی‌ سیم بدانید (قسمت اول)

پوکو لانچر 2 با طراحی پیشرفته و قابلیت‌های جدید منتشر شد

مرکز تحقیقات سرن نرم‌افزارهای مایکروسافت را به مقصد نرم‌افزارهای متن باز ترک می‌کند

چرا هواپیما هنگام فرود دچار ضربه می‌شود؟

فضای اختصاصی برای فرود خودرو پرنده در میامی ساخته می‌شود

لمان 2019 با قهرمانی تویوتا و آلونسو به پایان رسید

مصاحبه با اندی فنگ، بنیان‌گذار استارتاپ دوردش

مرورگر اج مایکروسافت احتمالا برای لینوکس هم عرضه می‌شود

نگاهی به 18 سال خاطره‌سازی آیتونز؛ کهنه‌سربازی که بازنشسته شد

تاثیر زندگی مدرن بر استخوان‌های انسان

AMD پردازنده‌ تردریپر 64 هسته‌ای تا پایان امسال عرضه می‌کند

طراحی سایت دود، روش متفاوتی از تبلیغات اینترنتی

نتیجه نظرسنجی: کاربران زومیت iPad OS و Mac Pro را جذاب‌ترین‌های WWDC امسال می‌دانند

گزینه‌های زیاد در هنگام انتخاب به مشکل تبدیل می‌شوند

نگاهی به پهپاد تحویل کالای جدید آمازون

آموزش انتقال لایسنس ویندوز 10 به کامپیوتر جدید

سری جدید نمایشگرهای هوشمند پورتال فیسبوک پاییز امسال عرضه می‌شود

دور نیمه‌نهایی مسابقات جام رمضان بازی زولا برگزار شد

خرید آنلاین بلیط چگونه سفر را برای ما به‌صرفه‌تر می‌کند؟

رندرهای جدید هواوی میت 30 پرو و احتمال استفاده از نمایشگر 90 هرتزی

تلاش سیگما برای احیای لنزهای APS-C

بهترین بازی‌های بتل رویال شبیه PUBG که باید تجربه کنید

نمایشگر وان پلاس 7 پرو در برخی کاربردها از 90 هرتز به 60 هرتز سوئیچ می‌کند

اپل احتمالا امسال هفت مک بوک جدید معرفی خواهد کرد

احتمال بازتولید رنو تندر 90 با قطعات ایرانی

پنج دلیل برای اینکه سرور دل را از زیگورات بخریم

جزئیات طرح جایگزین زوج یا فرد اعلام شد

نسخه بتا اندروید Q در دسترس 11 گوشی هوشمند شیائومی قرار می‌گیرد

چرا بازاریابی محصول از خود محصول مهم‌تر است؟

علت کج بودن برج پیزا چیست؟

همه‌چیز درباره برنامه‌نویس‌شدن: ماجراجویی در دنیای کدها

جزئیاتی تازه از نمایشگر بزرگ شاسی بلند برقی بایتون منتشر شد

تخصیص پویای منابع، مسئله‌‌‌ای ریاضی که جهان را در بن‌‌بست گرفتار کرده است

گوشی‌های هواوی برای ساعاتی لوگوی تبلیغاتی روی صفحه‌‌ قفل نمایش دادند

قلم نوری هویون در سامان کام

آموزش استفاده از Windows Sandbox در آپدیت ماه مه ویندوز 10

دانشمندان معمای سخت شدن سرخرگ‌ها را حل کردند