خطرات هوش مصنوعی برای انسان
با گسترش در علم هوش مصنوعی، ممکن است که این سوال برایتان پیش بیاید که این دانش چه خطراتی برای انسان دارد، یک متخصص در رشتهی هوش مصنوعی به این سوال پاسخ می دهد:
آرِند هینتز، استادیار رشته زیستشناسی و علوم کامپیوتر و مهندس از دانشگاه میشیگان آمریکا، بهعنوان یک توسعهدهنده در زمینه هوش مصنوعی به آسیبشناسی این ماشینها میپردازد و به ترسهایی که درباره آنها وجود دارد، پاسخ میدهد:
بعنوان یک محقق در رشتهی هوش مصنوعی اغلب با این ایده روبهرو می شوم که بیشتر مردم از آنچه ممکن است هوش مصنوعی به آن تبدیل شود، می ترسند. شاید این موضوع تعجبآور نباشد؛ این ترس به علت نوع نگاهی است که تاریخ و صنعت سینما به ما داده است؛ نگاهی که به ما ترس از سلطهی سایبرنتیک را القا می کند و همانگونه که در فیلم ماتریکس مشاهده کردهاید، به ما هشدار میدهد که نیروهایی می آیند و ما را بعنوان باتریهای انسانی در محفظه هایی زندانی می کنند. برای من که به عنوان توسعه دهندهی رشتهی هوش مصنوعی از مدلهای کامپیوتری برای تکامل آن به کار می برم، فکر کردن به این مسئله که در آینده این موجودات بیگناه مجازی به هیولاهایی تبدیل می شوند، سخت می باشد.
خطرات هوش مصنوعی برای انسان
ترس از اتفاقات از قبل پیش بینی نشده
کامپیوترHAL 9000 که آرتور سی کلارک، نویسندهی داستان علمی تخیلی، در رؤیای خود داشت مثال مناسبی است از سیستمی که به علت پیامدهای ناخواسته، شکست خورد.
در بیشتر سیستمهای پیچیده مثل کشتی تایتانیک و شاتل فضایی ناسا و نیروگاه هستهای چرنوبیل مهندسان لایههای زیادی از اجزای گوناگون را با همدیگر ترکیب میکنند. طراحان امکان دارد بهخوبی این مسئله را بدانند که هر جزء به تنهایی چطور کار میکند؛ ولی اغلب از این موضوع که قطعات در ارتباط با همدیگر چطور عمل میکنند، آگاهی کافی ندارند؛ نتیجهی این آگاهی کم، سیستمی می باشد که هرگز به صورت کامل درک نمی شود و امکان دارد که در شیوه های پیشبینینشده شکست بخورد؛ در هر فاجعهای مثل غرق شدن یک کشتی و انفجار دو شاتل فضایی و گسترش آلودگیهای رادیواکتیو در قاره اروپا و آسیا، اشتباهات کوچک با هم ترکیب می شوند و سبب به وجود آمدن یک فاجعه می شوند.
در تحقیقات هوش مصنوعی هم امکان دارد چنین اشتباهاتی اتفاق بیفتد. ما به آخرین دستاوردهای علوم شناختی و ادراکی نگاهی میاندازیم، آنها را به الگوریتم تبدیل میکنیم و به سیستمهای موجود اضافه می کنیم؛ در این راه مهندسان سعی می کنند بدون آنکه در قدم اول هوش یا شناخت را درک کنند، هوش مصنوعی را بسازند.
سیستمهایی مثل Watson IBM و Alpha google به شبکههای عصبی مصنوعی و حجم بزرگی از توان پردازشی تجهیز شدند و شاهکارهای چشمگیری را صورت دادند.
عواقب این اشتباهات سبب تغییر در دنیا نمی شود؛ در حقیقت بدترین اتفاقی که ممکن است اتفاق بیفتد این می باشد که فردی مقداری از پولی را که روی موفقیت هوش مصنوعی شرطبندی کرده است، از دست بدهد؛ ولی چون طراحی هوش مصنوعی در حال دشوارتر شدن است و پردازندههای کامپیوتر هم سریعتر شدهاند، مهارت این سیستمها افزایش چشمگیری یافته است.
این کار سبب میشود که حتی اگر خطر پیامدهای ناخواسته افزایش یابد، مسئولیتهای بیشتری به این سیستم ها داده شود؛ و از آنجاییکه انسان جایزالخطا است، به نظر میرسد که ساختن سیستمی کاملاً ایمن غیر ممکن هست.
پایدار و سلامت باشید.
موفق باشید.
ارسال پاسخ