تعیین تاریخ انقضا برای دادههای کم اهمیت توسط هوش مصنوعی
به گزارش کارگروه فناوری اطلاعات سایبربان ؛ کامپیوترها در به خاطر سپردن مواردی که به آنها آموزش می دهیم خیلی خوب هستند. معمولا این قابلیت مفید است اما شما قطعاً نمی خواهید سیستم هایی که سوابق پزشکی یا مالی شما را نگه می دارند به طور تصادفی افت صفر و یک را شروع کنند. با این حال این سیستم ها به طور کلی تمایزی بین منابع اطلاعاتی ندارند به این معنی که هر بیت از داده ها با قدرت برابر پردازش می شود.
اما با افزایش میزان اطلاعات در دسترس، سیستم های هوش مصنوعی برای مدیریت آنها مجبورند منابع محاسباتی محدود و بیشتری را مصرف کنند. محققان فیسبوک امیدوارند به هوش مصنوعی های آینده جهت بکار بردن توجه بهتر از طریق ایجاد تاریخ انقضا برای دادهها کمک کنند.
این اتفاق Expire-Span نامیده می شود و برای کمک به شبکه های عصبی در مرتب سازی و ذخیره اطلاعات مناسبتر برای وظایف محوله طراحی شده است. Expire-Span ابتدا پیش بینی می کند که چه اطلاعاتی در زمینه داده شده برای شبکه مفیدتر خواهد بود و سپس یک تاریخ انقضا برای آن بخش داده ها اختصاص می دهد.
آنجلا فن (Angela Fan) و سینبایار سوخباتار (Sainbayar Sukhbaatar) دانشمندان محقق در FAIR در یک پستی در روز جمعه توضیح دادند که هرچه اطلاعات موجود مهم تر به نظر برسد تاریخ انقضا نیز طولانیتر تعیین می شود. بنابراین شبکه های عصبی قادر خواهند بود که اطلاعات مهم را در حالی که به طور مداوم فضای حافظه را با فراموش کردن داده های بی ربط پاک می کند، حفظ کنند.
هر زمانی که داده ای جدید اضافه می شود این سیستم نه تنها اهمیت نسبی آن را ارزیابی میکند بلکه اهمیت داده های موجود مربوط به آن را نیز ارزیابی مجدد می کند. این امر همچنین به هوش مصنوعی کمک میکند تا از حافظه موجود به صورت موثرتری استفاده کند که منجر به مقیاس پذیری بهتر میشود.
عمل فراموش کردن حداقل برای هوش مصنوعی می تواند چالش برانگیز باشد زیرا انجام این کار یک عمل محرمانه است. این سیستم مانند صفر و یک هایی که کد هوش مصنوعی را تشکیل می دهند می تواند اطلاعاتی را به خاطر بسپارد. بدین ترتیب بهینه سازی برای یک سیستم باینری مانند آن دشوار است. تلاش های قبلی برای دور زدن این دشواری ها شامل فشرده سازی داده های کم اهمیت تر بود تا فضای کمتری در حافظه اشغال کند.
فن و سوخباتار توضیح دادند :
قابلیت Expire-Span هر بار که اطلاعات جدیدی ارائه می شود، زمان انقضا را برای هر حالت پنهان محاسبه می کند و تعیین میکند که چه مدتی این اطلاعات در حافظه حفظ میشود. این از بین رفتن تدریجی برخی از اطلاعات برای نگهداری اطلاعات مهم بدون کمرنگ کردن آنها کلیدی است. و مکانیزم قابل آموزش به مدل اجازه می دهد تا میزان آن را در صورت لزوم تنظیم کند. Expire-Span پیش بینی خود را بر اساس متن آموخته شده از داده ها و تحت تاثیر حافظه های اطراف آن محاسبه می کند.
تیم تحقیق نوشت :
اگرچه این امر هنوز در مراحل اولیه تحقیق است ما به عنوان گام بعدی در تحقیقات خود به سمت سیستم های هوش مصنوعی که بیشتر شبیه به انسان هستند نحوه ادغام انواع مختلف حافظه در شبکه های عصبی را مطالعه میکنیم.
این تیم در آینده امیدوار است که بتواند چیزی نزدیکتر به حافظه انسان را ایجاد کند اما چیزی تولید کند که قادر به یادگیری اطلاعات جدید بسیار سریع تر از آنچه فناوری فعلی اجازه میدهد باشد.