تا حالا شده حس کرده باشید تلفن همراه‌تان شما را بهتر از خودتان می‌شناسد؟ مثلا وقتی دارید پیامی را تایپ می‌کنید، دایره واژگان شما را بشناسد و ادامه جمله را خودش حدس بزند یا وقتی اکسپلور اینستاگرام را می‌بینید، دقیقا با پستی مواجه ‌شوید که قبلا درباره آن با دوستتان صحبت کرده بودید؟ با این قابلیت‌ها کارهای شما به‌سرعت پیش می‌رود، اما ترسناک هم هست! شاید نگران این باشید که اطلاعات شخصی شما جایی ذخیره می‌شود. واقعیت این است که بسیاری از ابزارهای هوشمند به داده‌های شخصی ما وابسته هستند و حتی احتمال دارد که داده‌های ما را هم ذخیره کنند! اما چطور می‌توان به شکلی از داده‌های کاربران استفاده کرد که حریم خصوصی آن‎ها نقض نشود؟ اینجاست که یادگیری فدرال Federated Learning مطرح می‌شود.

ایده این روش بسیار جالب و متفاوت است. به جای اینکه اطلاعات شما از گوشی خارج شود و روی یک سرور دیگر ذخیره شود، خود مدل روی دستگاه می‌آید و همان‌جا یاد می‌گیرد. در این یادداشت همراه ما باشید تا با کاربردهای یادگیری فدرال و ویژگی‌های این روش آشنا شویم.

مغزهای پراکنده، یادگیری مشترک! (Federated Learning) چیست؟

یادگیری فدرال Federated Learning که گاهی از آن با عنوان یادگیری مشارکتی نیز یاد می‌شود، روشی در یادگیری ماشین است که امکان آموزش مدل را بدون انتقال داده‌ها فراهم می‌کند و به هوش مصنوعی اجازه می‌دهد از داده‌ها یاد بگیرد، بدون اینکه نیازی به جابه‌جایی آن‌ها داشته باشد. همان‌طور که می‌دانید، در روش قدیمی، داده‌ها از جاهای مختلف جمع‌آوری می‌شدند، به سرور مرکزی ارسال می‌شدند و مدل در آن سرور آموزش می‌دید، اما در یادگیری فدرال این مدل است که به سراغ داده‌ها می‌رود و همان‌جا آموزش می‌بیند و فقط نتیجه یادگیری را بازمی‌گرداند.

بیشتر بخوانید: پیش‌نیازهای سخت‌افزاری برای هوش مصنوعی و یادگیری ماشین

یادگیری فدرال را می‌توان نوعی یادگیری ماشین بدون داده متمرکز هم دانست که در آن داده‌ها از دستگاه‌ها خارج نمی‌شوند و آموزش به صورت توزیع‌شده انجام می‌شود. بگذارید Federated Learning را با یک مثال توضیح دهیم. فرض کنید یک اپلیکیشن روی گوشی میلیون‌ها نفر کاربر نصب شده است. یک مدل اولیه از سمت سرور به دستگاه فرستاده می‌شود و هر گوشی با داده‌های خودش مدل ذکرشده را آموزش می‌دهد و سپس گوشی، آپدیت مدل را به جای داده‌‍‌های اصلی برمی‌گرداند. در نهایت سرور آپدیت‌های دریافت شده را ترکیب می‎کند و مدل بهتری را دوباره به سمت دستگاه‌ها ارسال می‌کند.

چرخه‌ای که گفتیم بارها و بارها تکرار می‌شود تا مدل قوی‌تر شود. در واقع می‌توان گفت یادگیری فدرال از نظر معماری شباهت زیادی به محاسبات لبه‌ایEdge Computing  دارد، زیرا در هر دو روش پردازش داده‌ها به جای سرور مرکزی، در نزدیکی منبع داده انجام می‌شود.

یادگیری فدرال در دنیای واقعی کجاها استفاده می‌شود؟

هر جایی که داده‌های حساسی وجود داشته باشد، یا حجم آن‌ها به گونه‌ای باشد که نتوانند به راحتی جابه‌جا شوند، سر و کله‌ی یادگیری فدرال پیدا می‌شود. از گوشی موبایل گرفته تا بیمارستان‌ها و حتی بانک‌ها. یعنی همه جاهایی که هم نیاز به هوش مصنوعی هست و هم حفظ حریم خصوصی اهمیت دارد، Federated Learning وارد عمل می‌شود. در ادامه همراه ما باشید تا چند مورد از کاربردهای آن را بررسی کنیم.

گوشی هوشمند؛ مربی شخصی مدل‌های هوش مصنوعی

یکی از جاهایی که خیلی از کاربران هر روز با آن سروکار دارند، گوشی‌های موبایل است. وقتی دستیار صوتی موبایل حرف شما را بهتر متوجه می‌شود، پای قابلیت یادگیری ماشین در میان است. با وجود یادگیری فدرال Federated Learning، مدل‌های هوش مصنوعی روی خود گوشی آموزش داده می‌شوند و فقط نتیجه یادگیری به سرور فرستاده می‌شود. این قابلیت هم باعث می‌شود تجربه کاربری بهتر شود و هم داده‌های شخصی شما مانند پیام‌ها یا صداها از گوشی خارج نشود.

پزشکی هوشمند با حفظ کامل محرمانگی

اگر بخواهیم از سطح فرد و گوشی‌های شخصی بالاتر برویم، باید بگوییم یکی از مهم‌ترین جاهایی که یادگیری فدرال در آن استفاده می‌شود، حوزه پزشکی است. بیمارستان‌ها و مراکز درمانی معمولا اطلاعات بسیار حساسی از بیماران دارند و نمی‌توانند این داده‌ها را به راحتی جابه‌جا کنند و باید در یک دیتابیس مرکزی جمع کنند.

بیشتر بخوانید: پایگاه داده برداری Vector Database چیست؟ 

 کاربرد Federated Learning در پزشکی باعث می‌شود هر بیمارستان در همان سیستم‌های محلی خود، مدل‌ هوش مصنوعی را روی داده‌های خودش آموزش دهد و تنها نتیجه یادگیری را با دیگران به اشتراک بگذارد. این علاوه بر اینکه باعث محفوظ ماندن اطلاعات بیماران می‌شود، مدل‌های قوی‌تری را برای تشخیص بیماری‌ها، پیش‌بینی وضعیت بیماران و حتی شناسایی بیماری‌های نادر توسعه می‌دهد.

کشف تقلب بدون دیدن تراکنش‌ها

یکی دیگر از مراکزی که داده‌های بسیار حساسی دارد بانک‌ها و شرکت‌های مالی هستند. آن‌ها نمی‌توانند اطلاعات مشتری‌ها را با بقیه سازمان‌ها به اشتراک بگذارند، اما برای آموزش مدل‌های هوش مصنوعی در جهت تشخیص تقلب یا پول‌شویی به داده‌های گسترده و البته حساسی نیاز دارند. در چنین شرایطی، استفاده از ای پی آی احراز هویت در کنار راهکارهای حفظ حریم خصوصی می‌تواند به کسب‌وکارهای مالی کمک کند تا اطلاعات هویتی کاربران را نیز با امنیت بیشتری مدیریت کنند. یادگیری فدرال در اینجا به عنوان حافظ امن اطلاعات انسان‌ها عمل می‌کند و می‌‌تواند به بانک‌ها کمک کند که بدون اینکه اطلاعات مشتریان و تراکنش‌های واقعی را به بیرون بفرستند، مدل‌هایی برای تشخیص تقلب بسازند. در نتیجه با به کارگیری این مدل‌ها، سیستم‌های مالی دقیق‌ و امن‌ و در عین حال بدون نقض حریم خصوصی مشتری‌ها عمل می‌‌کنند.

یادگیری فدرال Federated Learning در دل خط تولید

هوش مصنوعی می‌تواند به کارخانه‌ها کمک کند تا فرایندهای تولید را بهبود ببخشند و خرابی دستگاه‌ها را پیش‌بینی کنند، اما کارخانه معمولا نمی‌توانند داده‌های ماشین‌آلات و خط تولید خودشان را با بقیه به اشتراک بگذارند، زیرا این اطلاعات فقط داده‌های ساده نیستند، بلکه اطلاعات حساس و استراتژیکی محسوب می‌شوند که از روی همان‌ها می‌توان فهمید سرعت تولید چقدر است و چه نوعی از تکنولوژی برای توسعه آن به کار گرفته شده که معمولا روی رقابت بین شرکت‌ها تاثیر می‌گذارد. بنابراین یادگیری فدرال کمک می‌کند هر واحد تولیدی و کارخانه‌ای مدل را روی داده‌های خودش آموزش دهد و سپس این تجربه‌ها با هم ترکیب شوند تا مدلی ساخته شود که بتواند خرابی تجهیزات را از قبل پیش‌بینی کنند.

بازاریابی دقیق در دنیای حفظ حریم خصوصی

در صنعت مارکتینگ و تبلیغات طراحی یک کمپین تبلیغاتی و یا پیام‌های بازرگانی زمانی موثر است که با علایق، سلایق و نیازهای مخاطب هم راستا باشد. بنابراین نیاز است رفتار کاربران به طور دقیقی شناخته شود. اگر اطلاعات کاربران جمع شود و به یک سرور مرکزی برود، از نظر فنی کاربردی است، اما یک ریسک خیلی بزرگی هم دارد.

دسترسی به دیتابیس عظیم رفتار شخصی میلیون‌ها انسان باعث سوء‌استفاده برخی سازمان‌ها در اهداف تجاری می‌شود. یادگیری فدرال Federated Learning کمک می‌کند حریم شخصی کاربران حفظ شود. به این صورت که هر پلتفرم و شرکتی می‌تواند روی داده‌های خودش مدل را آموزش دهد و فقط نتیجه را به اشتراک بگذارد. این باعث می‌شود تبلیغات هدفمندتر و موثرتر طراحی شود و اطلاعات شخصی کاربران نیز به‌طور مستقیم لو نرود.

مزایا و معایب Federated Learning 

اما بیایید نگاهی به روی روشن و تاریک  Federated Learningبیندازیم. یادگیری فدرال از آن ایده‌های بسیار جذاب و کاربردی است که بسیاری از مشکلات، مخصوصا مسئله حفظ حریم خصوصی کاربر را برطرف می‌کند. در ادامه همراه ما باشید تا به برخی از مزایا و سپس چالش‌ها و محدودیت‌های این روش بپردازیم.

محافظت از اطلاعات در قلب سیستم

یکی از مهم‌ترین مزایای یادگیری فدرال، تقویت حفظ حریم خصوصی کاربران است، زیرا داده‌های خام هرگز از دستگاه کاربر خارج نمی‌شوند. یعنی اطلاعات شما، کاربران، بیمارها، مشتری‌ها همان‌جا در دستگاه‌های محلی؛ می‌ماند و تنها نتیجه‌گیری به اشتراک گذاشته می‌شود.

 این ویژگی نه‌تنها حریم خصوصی کاربران را حفظ می‌کند، بلکه نقش مهمی در افزایش امنیت داده‌ها در سطح سازمان‌ها و کاربران دارد و همچنین به سیستم‌ها کمک می‌کند تا راحت‌تر با قوانین سخت‌گیرانه‌ای مانند مقررات عمومی حفاظت از داده‌ها (GDPR) که در اروپا رایج است هماهنگ باشد. 

همچنین استفاده از تکنیک‌هایی مانند حریم خصوصی تفاضلی باعث می‌شود حتی از روی نتایج مدل نیز نتوان به داده‌های واقعی کاربران دسترسی پیدا کرد. حریم خصوصی تفاضلی Differential Privacy یک روش در علم داده و یادگیری ماشین است که کمک می‌کند بتوان داده‌های افراد را تحلیل کرد و از روی آن کار مدل‌سازی را انجام داد، بدون اینکه اطلاعات یک فرد خاص قابل شناسایی یا استخراج باشد.

کاهش هزینه انتقال داده

در روش‌های قدیمی باید حجم بسیار زیادی از داده‌ها بین دستگاه و سرور جا‌به‌جا شود که این فرایندی کند و پرهزینه است. اما در یادگیری فدرال تنها آپدیت‌ها و به‌روز رسانی‌های کوچک مدل فرستاده می‌شود و نه کل داده‌ها. همین باعث می‌شود مصرف اینترنت و هزینه زیرساخت بسیار کاهش پیدا کند.

محافظت از اطلاعات در قلب سیستم

یکی از مزیت‌های فوق العاده یادگیری فدرال این است که به شما کمک می‌کند تا چند سازمان و سیستم با هم روی یک مدل کار کنند، آن هم بدون اینکه اطلاعات حساسشان را با هم به اشتراک بگذارند. در این صورت نوعی همکاری هوشمند شکل می‌گیرد که در آن همه سود می‌برند، اما کسی اطلاعاتش را از دست نمی‌دهد. این رویکرد که با عنوان Collaborative Learning  نیز شناخته می‌شود، امکان همکاری چند سازمان یا سیستم را بدون نیاز به اشتراک مستقیم داده‌ها فراهم می‌کند.

چالش‌های پنهان در یادگیری فدرال

با اینکه یادگیری فدرال بسیار جذاب است و مزیت‌هایی مانند حفظ حریم خصوصی، کاهش هزینه انتقال داده و همکاری بدون اشتراک را دارد، اما پیاده‌سازی آن در دنیای واقعی با چند چالش جدی و اساسی رو‌به‌روست که باید بسیار جدی گرفته شود. در ادامه همراه ما باشید تا چند مورد از این چالش‌ها را با هم بررسی کنیم.

چالش‌های یادگیری فدرال

· حفاظت از حریم خصوصی

· ناهمگنی داده و سیستم

· در دسترس بودن داده

· توزیع داده

· سربار ارتباطی

· مسائل امنیتی

حفاظت از حریم خصوصی

حفاظت از حریم خصوصی هم مزیت و هم ریسک مدل های یادگیری فدرال است! دقیقا شبیه یک شمشیر دو لبه. درست است که در نگاه اول Federated Learning برای حفظ حریم خصوصی ساخته شده، اما واقعیت این است که هنوز هم ریسک‌هایی وجود دارد زیرا که به جای داده خام، آپدیت مدل‌ها بین دستگاه و سرور جا‌به‌جا می‌شود و ممکن است از روی همین آپدیت‌ها تا حد زیادی به اطلاعات اصلی کاربران پی برد.

داده‌های ناهمگون، مدل‌های ناپایدار

یکی از بزرگ‌ترین چالش‌ها می‌تواند این باشد که همه دستگاه‌ها و سیستم‌هایی که نزد کاربران و سازمان‌ها هست، شبیه هم نیستند. داده‌هایی که به هر دستگاهی منتقل می‌شود، از رفتار کاربران گرفته تا شرایط بیمارستان‌ها، ممکن است بسیار متفاوت باشد. از طرف دیگر، قدرت سخت افزاری و سرعت اینترنت در دستگاه‌های مختلف با هم فرق دارد و این تفاوت‌ها باعث می‌شود آموزش و آپدیت مدل‌ها در هر دستگاهی سخت باشد و هماهنگ کردن زمان زیادی ببرد. در نهایت می‌توان گفت این ناهمگونی در داده‌ها و سیستم‌ها می‌تواند مستقیما بر دقت مدل تأثیر بگذارد و رسیدن به یک مدل پایدار را دشوارتر کند.

عدم دسترسی به داده‌ها در یادگیری فدرال

مسئله دیگر این است که شما نمی‌توانید همیشه روی این موضوع حساب باز کنید که همه دستگاه‌ها برای ارسال مدل آپدیت شده، همیشه آنلاین و دردسترس باشند. بعضی از آن‌ها ممکن است خاموش شوند، بعضی‌ها ممکن است دسترسی‌شان به اینترنت مختل شود و اصلا آپدیت را ارسال نکنند و در نهایت این موضع باعث می‌شود آموزش مدل ناپایدار شود و سرور مجبور شود فقط با برخی از داده‌ها کار کند.

داده‌های ناهمگون؛ مانع پنهان در مسیر یادگیری دقیق

بعضی دستگاه‌ها ممکن است داده‌های خیلی خاص و محدودی داشته باشد و بعضی دیگر داده‌های باکیفیت و گسترده‌تری را شامل شوند. واقعیت این است که داده‌ها در دستگاه‌های مختلف معمولا به شکل یکسان توزیع نشده‌اند و همین باعث می‌شود مدل سخت‌تر به یک نتیجه دقیق و پایدار برسد، زیرا به صورت یکنواخت از همه جا داده دریافت نمی‌کند.

رفت‌وآمد بی‌پایان آپدیت‌های مدل

در یادگیری فدرال، خود داده‌ها جابه‌جا نمی‌شوند، ولی آپدیت‌های مدل به صورت مداوم بین دستگاه و سرور در حال رفت و آمد هستند. یعنی هر دستگاه بعد از اینکه روی داده‌های خودش آموزش دید، باید نتیجه‌گیری را بفرستد به سرور اصلی و این رفت و برگشت معمولا چندین بار تکرار می‌شود و هنگامی که با هزاران و یا حتی میلیون‌ها دستگاه طرف باشیم، همین حجم زیاد آپدیت‌ها می‌تواند شبکه را سنگین کند و سرعت را کاهش دهد.

حملات هوشمند به مدل‌های توزیع‌شده

یادگیری فدرال از نظر امنیتی معمولا یک قدم جلوتر از یادگیری معمولی است، زیرا داده‌های حساس هیچ‌وقت از دستگاه خارج نمی‌شوند و احتمال لو رفتن مستقیم اطلاعات بسیار کمتر می‌شود، اما به این معنی نیست که این روش کاملا ایمن است، بلکه در این میان، ریسک‌هایی هم وجود دارد.

مثلا ممکن است بعضی از دستگاه‌ها به دلیل نواقصی که دارند، یا به صورت عمد آپدیت‌های اشتباه برای سرور بفرستند که مدل را به سمت اشتباه ببرند که به این نوع حمله Poisoning Attack می‌گویند و یا اینکه ممکن است از روی همان آپدیت‌ها، نوع داده‌ها حدس زده شود که به این حمله Inference Attack  می‌گویند. برای همین سیستم‌ها برای حفظ امنیت نباید فقط به یادگیری فدرال اکتفا کنند و باید چند روش امنیتی را با هم ترکیب کنند تا هم دقت مدل حفظ شود و هم احتمال نشت اطلاعات تا حد ممکن پایین بیاید.

جمع‌بندی

در نهایت می‌توان گفت یادگیری فدرال Federated Learning یکی از مهم‌ترین تغییراتی است که در دنیای هوش مصنوعی به وجود آمده، زیرا نگاه سنتی به آموزش مدل‌ها را عوض کرده است. این روش به کاربران و سازمان‌ها کمک می‌کند تا داده‌ها همان‌جایی که هستند، باقی بمانند و علاوه بر اینکه حریم خصوصی خود را حفظ می‌کنند، امکان استفاده از داده‌های واقعی و گسترده را بدون نگرانی فراهم کنند. یادگیری فدرال نشان داد می‌توان بین حفظ حریم خصوصی و هوش مصنوعی تعادل ایجاد کرد، بدون اینکه نیاز به قربانی کردن دقت یا کارایی مدل باشد.