گوگل با OpenAI برای جلوگیری از قیام ربات ها همکاری می کند

هم رسان: یکی از بزرگترین نگرانی هایی که در حوزه هوش مصنوعی وجود دارد این است که روزی فرا برسد که ربات ها علیه انسان ها قیام کنند. هیچ کس نمی تواند آینده را پیش بینی کند اما پیشگیری بهتر از درمان است و به همین دلیل گوگل و OpenAI تلاش می کنند با ابداع روشی جدید در حوزه یادگیری ماشینی از این اتفاق جلوگیری کنند.

به گزارش پایگاه خبری هم رسان به نقل از ابرگیزمو، دپارتمان هوش مصنوعی گوگل (Google DeepMind) و OpenAI اخیراً مقاله ای پژوهشی را منتشر کرده و در آن روش جدیدی از یادگیری ماشینی را معرفی کرده اند. در این روش ساز و کار یادگیری ماشینی شباهت بسیاری به روش های حل مسئله انسان دارد و به ربات این اجازه را نمی دهد که خود در مورد مسائل فکر کند که این امکان می تواند نتایج نامطلوبی داشته باشد.

برای نمونه مسئله تقلب هوش مصنوعی یکی از مشکلات اصلی است که در این مقاله مطرح شده است. هوش مصنوعی یاد گرفته که گاهی بهترین راه برای رسیدن به هدف «تقلب» است. زمانی که OpenAI در یکی از بررسی ها هوش مصنوعی را ترغیب کرد تا یک بازی را به اتمام برساند، هوش مصنوعی با انجام چندین ترفند بازی را برخلاف قوانین آن به اتمام رساند. بنابراین آنها به جای استفاده از سیستم پاداش دهی خودکار از سیستم پاداش دهی انسانی که از اطلاعات و احساسات انسانی بهره می برد و اهداف کاملاً متفاوتی با سیستم خودکار دارد، استفاده کردند. به این ترتیب هوش مصنوعی در آینده می تواند به درجه ای برسد که رفتارهای آن در مسیر اولویت های انسانی باشد. یکی از نقطه ضعف های این روش این است که به بازخوردهای انسانی زیادی نیاز دارد که لزوماً ممکن است خیلی کارآمد یا مناسب نباشد.