هوش مصنوعی؛ تهدیدی برای بشریت - مرد کوچک

پژوهشگران دانشگاه آکسفورد و بخش هوش مصنوعی دیپ مایند (DeepMind) گوگل ادعا نموده اند احتمال زیادی وجود دارد که صورت های پیشرفته هوش مصنوعی برای وجود حیات روی زمین مخاطره آمیز باشند.

به نقل از ایندیپندنت، محققان در مقاله ای که به تازگی در مجله داوری شده هوش مصنوعی (AI Magazine) منتشر شد، هشدار دادند که ادامه توسعه بعضی از عوامل هوش مصنوعی، عواقب فاجعه بار درپی خواهد داشت.

فیلسوفان برجسته ای، ازجمله نیک باستروم از دانشگاه آکسفورد، پیش از این در خصوص تهدید ناشی از شکل های پیشرفته هوش مصنوعی صحبت نموده اند، در همین حال، یکی از نویسندگان مقاله نو ادعا می نماید که چنین هشدارهایی چندان هم بعید نیست.

مایکل کوهن در یک رشته توییت که با این مقاله ضمیمه شده است، نوشت: باستروم، [دانشمند کامپیوتر] استوارت راسل، و دیگران استدلال نموده اند که هوش مصنوعی پیشرفته، تهدیدی برای بشریت است.

تحت شرایطی که ما آنالیز و شناسایی نموده ایم، نتیجه گیری ما بسیار قوی تر از هر مقاله منتشرشده قبلی است - [وقوع] یک فاجعه وجودی نه تنها ممکن است، بلکه احتمال دارد.

این مقاله سناریویی را پیشنهاد می نماید که براساس آن، یک عامل هوش مصنوعی، استراتژی تقلب را برای دریافت پاداشی که از قبل برای جست وجوی آن برنامه ریزی شده است، می فهمد و از آن سر درمی آورد.

این [عامل هوش مصنوعی] برای به حداکثر رساندن ظرفیت پاداش خود، به فراهم کردن مقدار هرچه بیشتری انرژی احتیاج دارد. این آزمایش فکری پیش بینی می نماید که بشر در نهایت برای [به دست آوردن] منابع انرژی با هوش مصنوعی رقابت می نماید.

آقای کوهن نوشت: برنده شدن در رقابت استفاده از آخرین ذره انرژی موجود در شرایطی که در مقابل چیزی بسیار هوشمندتر از خودمان بازی می کنیم، احتمالا بسیار سخت خواهد بود. باخت [در این بازی]، مرگبار خواهد بود.

این احتمالات، هرچند که نظری [و تئوریک اند]، اما به این معنی است که ما باید به آرامی - اگر این گونه باشد - به سمت هدف هوش مصنوعی قدرتمندتر پیش برویم.

دیپ مایند پیش از این، یک تضمین حفاظتی در برابر چنین احتمالی پیشنهاد داده و آن را دکمه بزرگ قرمز نامیده است. در مقاله ای در سال 2016 با عنوان عوامل [هوش مصنوعی] ایمن با قابلیت قطع شدن، این شرکت هوش مصنوعی چارچوبی برای جلوگیری از نادیده گرفتن دستورات خاموش کردن از طرف ماشین های پیشرفته و [مانع شدن از] تبدیل آن ها به یک عامل سرکش خارج از کنترل، ترسیم کرد.

پروفسور باستروم پیش تر دیپ مایند را که دستاوردهای هوش مصنوعی آن از جمله شامل شکست دادن قهرمانان انسان در بازی رومیزی گو (Go) و تحت کنترل درآوردن همجوشی هسته ای است - به عنوان نزدیک ترین [گروه] به ایجاد هوش مصنوعی در سطح انسانی توصیف کرد.

این فیلسوف سوئدی بعلاوه گفت که اگر پیشرفت هوش مصنوعی ادامه پیدا نکند، تراژدی بزرگی خواهد بود، زیرا هوش مصنوعی، ظرفیت درمان بیماری ها و پیشرفت تمدن را دارد و در غیر این صورت [رسیدن به این موارد] با این سرعت غیرممکن است.

خبرنگاران فضای مجازی دریچه فناوری