تکنیک جدید محققان گوگل سرعت آموزش مدل‌های هوش مصنوعی را افزایش می‌دهد

به گزارش کارگروه فناوری اطلاعات سایبربان ؛ محققان DeepMind گوگل روش جدیدی برای افزایش سرعت آموزش هوش مصنوعی توسعه داده‌اند که به‌طور قابل‌توجهی می‌تواند منابع محاسباتی و زمان موردنیاز برای انجام این کار را کاهش دهد.

در صنعت هوش‌مصنوعی انرژی بسیار زیادی مصرف می‌شود، زیرا سیستم‌های بزرگ‌تر مانند ChatGPT به قدرت زیادی برای پردازش نیاز دارند و همچنین انرژی و آب زیادی برای خنک‌کردن این سیستم‌ها لازم است. به‌عنوان مثال، مصرف آب مایکروسافت از سال 2021 تا 2022 به‌دلیل افزایش تقاضای مربوط به هوش مصنوعی، 34 درصد افزایش یافته است. همچنین برای هر 5 تا 50 درخواست ChatGPT تقریباً نیم لیتر آب موردنیاز است.

بااین‌حال، رویکردهایی مانند رویکرد گوگل که «یادگیری متضاد چندوجهی با انتخاب مثال مشترک» (JEST) نام دارد، راه‌حلی را برای کاهش این چالش‌ها ارائه می‌کنند. گوگل در تحقیق خود می‌گوید JEST با بهینه‌سازی روند انتخاب داده‌ها برای آموزش هوش مصنو‌عی، می‌تواند تعداد تکرارها و توان محاسباتی موردنیاز خود را به میزان قابل‌توجهی کاهش دهد. این امر می‌تواند مصرف کلی انرژی هوش مصنوعی را پایین بیاورد.

نحوه کار تکنیک جدید گوگل برای آموزش هوش مصنوعی

نحوه کار JEST به این صورت است که با انتخاب دسته‌ای از داده‌های مکمل، قابلیت یادگیری مدل هوش مصنو‌عی به حداکثر می‌رسد. برخلاف روش‌های سنتی که در آن از نمونه‌های واحد استفاده می‌شود، این الگوریتم ترکیب کل مجموعه را در نظر می‌گیرد.

برای مثال، تصور کنید که درحال یادگیری چندین زبان هستید. با این تکنیک، به جای یادگیری جداگانه هریک از زبان‌ها (مثلاً به‌ترتیب دشواری)، از ترکیب آن‌ها با یکدیگر به‌گونه‌ای استفاده می‌شود که آموزش مؤثرتر باشد و دانش مربوط به یکی از زبان‌ها در آموزش دیگری نقش داشته باشد.

برای دستیابی به این مهم، محققان گوگل از شیوه «یادگیری متضاد چندوجهی» استفاده کرده‌اند که در آن وابستگی بین نقاط داده شناسایی می‌شود.

اگر این تکنیک در مقیاس‌های بزرگ‌تر نیز مؤثر باشد، برای آموزش مدل‌های هوش مصنوعی فقط به انرژی کمی نیاز است. بنابراین شرکت‌ها و استارتاپ‌ها قادر خواهند بود با همان منابعی که درحال‌حاضر استفاده می‌کنند، ابزارهای هوش مصنوعی قوی‌تری تولید کنند یا برای توسعه مدل‌های جدیدتر منابع کمتری نیاز داشته باشند.