به گزارش کارگروه فناوری اطلاعات سایبربان و به نقل از آی ای، هوش مصنوعی (AI) پیشرفت چشمگیری داشته و از بسیاری جهات، جهان را بهبود بخشیده است. اما آیا ممکن است این فناوری خطرناک شود؟
مقاله جدیدی که توسط دانشگاه آکسفورد و محققان گوگل دیپ مایند در ماه گذشته در مجله تخصصی هوش مصنوعی منتشر شد، استدلال می‌کند که این فناوری می تواند خطرناک باشد. این تحقیق تصریح می کند که هوش مصنوعی می تواند یک خطر برای بشریت باشد.
همه اینها مربوط به شبکه‌های متخاصم (یا GAN) است که امروزه در توسعه هوش مصنوعی استفاده می‌شود. این سیستم ها در دو معیار عمل می کنند: یک بخش سعی می کند تصویری را از داده های ورودی تولید کند در حالی که بخش دیگر عملکرد آن را درجه بندی می کند. محققان در این مقاله حدس می زنند که یک هوش مصنوعی پیشرفته می تواند استراتژی تقلب را برای دریافت پاداش خود به طور موثرتر در نظر بگیرد و در عین حال به بشریت آسیب برساند.
مایکل کی کوهن از دانشگاه آکسفورد گفت: در دنیایی با منابع محدود، رقابتی اجتناب ناپذیر برای این منابع وجود دارد. اگر در رقابتی با چیزی هستید که می‌تواند شما را در هر لحظه از بین ببرد، پس نباید انتظار برنده شدن داشته باشید.
اگر یک هوش مصنوعی مسئول برای مثال، پرورش غذای ما باشد، ممکن است بخواهد راهی برای اجتناب از انجام این کار پیدا کند. در واقع ممکن است تصمیم بگیرد که تمام وظایف محول شده خود را که احتمالا برای بقای بشریت ضروری است دور بزند و به طور کلی کار خودش را انجام دهد.
کوهن استدلال کرد که ما نباید به دنبال ایجاد چنین هوش مصنوعی پیشرفته ای باشیم، مگر اینکه ابزاری تضمین شده برای آن داشته باشیم.
اگرچه این مقاله به نکات معتبری اشاره می کند، اما باید توجه داشت که در حال حاضر، هوش مصنوعی یک دارایی برای بشریت است. از حذف نیاز انسان به انجام وظایف خسته کننده در زنجیره تامین تا انجام پیش بینی دقیق تر آب و هوا توسط هوش مصنوعی محقق شده است.
هوش مصنوعی مزیت های زیادی را برای بشریت به ارمغان می آورد. البته محدودیت‌های خودش را هم داشته که منجر به مشکلاتی شده است. اما این موضوعات مورد توجه محققان است و مورد تجزیه و تحلیل قرار گرفته تا دیگر تکرار نشود.
همه اینها به این معنی است که با در نظر گرفتن مزایا و معایب هوش مصنوعی، می‌توانیم به توسعه این فناوری ادامه دهیم به نحوی که به بشریت کمک کند، نه اینکه به آن آسیب برساند.
