انتشار سند سیاستی درباره کنترل کاربر و حریم خصوصی در حوزه هوش مصنوعی
به گزارش کارگروه فناوری اطلاعات سایبربان، سازمان همکاری و توسعه اقتصادی (OECD) در اکتبر ۲۰۲۶ یک سند سیاستی درباره کنترل کاربران و حفاظت از حریم خصوصی در سراسر چرخه عمر هوش مصنوعی (AI) منتشر کرد.
در این سند اشاره شده است که ایجاد مدلهای یادگیری ماشین در هوش مصنوعی، اغلب نیازمند حجم زیادی از دادههای باکیفیت است؛ دادههایی که ممکن است بهطور عمدی یا سهوی حاوی اطلاعات شخصی باشند. این سند بر نیازی دوگانه تأکید دارد: تسهیل دسترسی به دادههای باکیفیت، همزمان با تضمین حریم خصوصی و کنترل کاربران بر دادههای شخصیشان؛ و همچنین ایجاد سازوکارهای حفاظتی برای حقوق مالکیت فکری و سایر منافع مشروع.
این گزارش به دو منبع اصلی دادههای آموزشی برای هوش مصنوعی اشاره میکند. نخست، تعاملات کاربران با سامانههای هوش مصنوعی مولد بهویژه چتباتهایی که در ارتباط با مصرفکنندگان نهایی هستند، منجر به تولید دادههای شخصی میشود که میتوان از آنها برای آموزش یا بهبود مدلها استفاده کرد. دوم، گردآوری دادهها از محتوای در دسترس عموم در اینترنت (وباسکریپینگ)، مجموعهدادههای حجیمی را برای مرحله پیشآموزش فراهم میآورد. این گزارش همچنین به رواج رویکردهای پویایی همچون تولید تقویتشده با بازیابی (RAG) میپردازد که به مدلها امکان میدهد بهصورت بلادرنگ به اطلاعات خارجی دسترسی داشته باشند.
راهنماییهای اخیر از سوی مقامات اجرای حریم خصوصی (PEA) نیز در این خلاصه آمده است:
(۱) دفتر کمیسر حریم خصوصی کانادا بیان میکند که توسعهدهندگان باید کاربران را در مورد نحوه پردازش دادههای شخصی از اعلانها و اینکه آیا از آنها برای آموزش استفاده خواهد شد، مطلع کنند. (۲) سازمان حفاظت از دادههای هلند بر شفافیت در پردازش دادهها، انواع دادهها و اهداف تأکید دارد. (۳) دفتر کمیسر اطلاعات استرالیا در صورت استفاده از اعلانها و پاسخهای چتبات برای نسخههای مدل آینده، نیاز به اطلاعرسانی واضح به کاربران دارد. (۴) کمیسیون حفاظت از دادههای شخصی سنگاپور به جای اتکا به اعلانهای عمومی، اطلاعرسانی صریح به کاربر را توصیه میکند. (۵) گروه ویژه ChatGPT هیئت حفاظت از دادههای اروپا توصیه میکند که توسعهدهندگانی که بر اساس منافع مشروع عمل میکنند، باید اقدامات حفاظتی مانند معیارهای دقیق جمعآوری دادهها، حذف دادههای دسته خاص و فیلتر کردن یا ناشناسسازی قبل از آموزش را اجرا کنند. (۶) کمیسیون ملی اطلاعات و آزادیهای فرانسه توصیه میکند که جمعآوری دادهها را به دادههای کاملاً عمومی محدود کنید، منابع حساس را حذف کنید و به آنها احترام بگذارید. محدودیتهای فنی یا قراردادی و ارائه سازوکارهایی برای اعتراض افراد و (7) دفتر کمیسر اطلاعات بریتانیا تأکید میکند که سازمانها باید به وضوح افراد را در مورد پردازش، منابع دادهها و اهداف مطلع کنند و حقوق مربوط به موضوع دادهها در سراسر چرخه حیات هوش مصنوعی اعمال میشود.
سازوکارهای اعمال حقوق مربوط به دادهها نیز مورد بحث قرار گرفته است. دفتر بریتانیا تصریح کرده است که حقوق دسترسی، اصلاح و حذف در سراسر چرخه حیات هوش مصنوعی اعمال میشود و چالشهای اجرایی عملی نمیتواند عدم رعایت آن را توجیه کند. OPC کانادا بر لزوم سوابق و قابلیت ردیابی برای قادر ساختن افراد به اعمال حقوق دسترسی و به چالش کشیدن تصمیمات مبتنی بر هوش مصنوعی تأکید میکند. این خلاصه به راهنماییهای فرانسه و بریتانیا اشاره دارد که نشان میدهد تعهدات اصلاح ممکن است در صورت به خاطر سپردن دادههای شخصی، به وزنهای مدل نیز تعمیم یابد. همچنین به بیانیه مشترکی در مورد تصاویر تولید شده توسط هوش مصنوعی (2026) اشاره شده است که از سازمانها میخواهد سازوکارهای مؤثری برای حذف سریع محتوای مضر یا غیر توافقی شامل دادههای شخصی ارائه دهند.
با نگاهی به آینده، این خلاصه اشاره میکند که با تکامل سیستمهای هوش مصنوعی به سمت اشکال خودمختار و چندعاملی، تنظیمکنندگان و صنعت به رویکردهای مشارکتی برای اعمال اصول کنترل کاربر بر عاملهای هوش مصنوعی نیاز خواهند داشت. این خلاصه مشاهده میکند که مفاهیم سنتی حفاظت از دادهها مانند رضایت و محدودیت هدف ممکن است توسط تبادلات عامل به عامل به چالش کشیده شوند و اعمال حذف دادهها میتواند به ویژه در محیطهای چندعاملی دشوار باشد. در عین حال، این خلاصه نشان میدهد که عاملهای هوش مصنوعی میتوانند با اعمال پویای تنظیمات حریم خصوصی و مدیریت تعاملات پیچیده دادهها، از کاربران پشتیبانی کنند.
گزارش سازمان همکاری و توسعه اقتصادی با توصیههایی برای سیاستگذاران به پایان میرسد، از جمله تشویق رویکردهای نظارتی مبتنی بر فنی که محدودیتهای محاسباتی را تصدیق میکنند، حمایت از ظرفیتسازی و اشتراکگذاری دانش، ترویج تحقیقات در مورد یادگیریزدایی ماشینی و PETها، ارائه راهنماییهای مبتنی بر ریسک در مورد حریم خصوصی در زمینههای وب اسکرپینگ و RAG، تشویق رابطهای کاربری شهودی، تقویت اصطلاحات منسجم برای حفاظت از حریم خصوصی و تقویت گفتگو بین تنظیمکنندگان، ذینفعان هوش مصنوعی، محققان و جامعه مدنی.