ویژگی Recall باعث نگرانی بسیاری شده است
در رویدادی که چند روز قبل در داخل شرکت مایکروسافت در ردموند، واشنگتن برگزار شد، این شرکت رایانههای ویندوزی جدیدی را معرفی کرد که بهطور خاص برای هوش مصنوعی طراحی شدهاند و با نام Copilot+ PCs شناخته میشوند.
سختافزار جدیدی که در بخش اصلی این برنامه رونمایی شد، رایانههایی با واحدهای پردازش عصبی (NPUs) با کارایی بالا هستند که، حداقل بهظاهر، قادر به انجام بسیاری از پردازشها بر روی دستگاه هستند. با این حال، هنوز سوال باز باقی مانده که تا چه اندازه پردازش خارجی لازم خواهد بود – و این بخش مهمی از داستان قابلیت استفاده از رایانهها +Copilot برای یک کلاس کامل از حرفهایهایی که با اطلاعات حساس کار میکنند را بیان میکند.
با این حال، در حال حاضر، به نظر میرسد ویژگی Recall در برخی موارد بهطور پیشفرض فعال است و حتی با پردازش کاملاً روی دستگاه، ممکن است یک نگرانی حریم خصوصی برای بسیاری از حرفهایها باشد.
امنیت و حریم خصوصی Recall
ویژگی Recall در نرمافزار به معنای داشتن حافظه تصویری و عکاسی از هر رخدادی است که در کامپیوتر انجام شده است. به این معنی که هر چیزی که تا به حال در یک Copilot+PC دیده یا انجام شده است، احتمالاً به جز برخی موارد استثنائی برای رسانههای مدیریت حقوق دیجیتال، بهصورت یک پایگاه داده از اسکرینشاتهایی که بهطور مداوم فعالیتها را ضبط میکنند، قابل بازیابی خواهد بود.
فرض بر این است که این اسکرینشاتها برای سازماندهی اطلاعات بهصورت معنایی استفاده میشوند، و بخشهای مختلف دادههای پراکنده را بر اساس روابط و ارتباطات متصل میکنند – که به کاربر اجازه میدهد فایلها، ایمیلها، وبسایتها و موارد دیگر را بازیابی کند.
به گفته مایکروسافت، کاربران قادر خواهند بود از طریق یک جدول زمانی برای پیدا کردن محتوا در برنامهها، پلتفرمها و وبسایتهای مختلف پیمایش کنند. با استفاده از پردازش روی دستگاه، گفته میشود که بهطور کامل محلی ساخته و ذخیره شده، ویژگی Recall امیدوار است که عکسهای کاربران خصوصی و امن بمانند.
یک ویژگی فیلتر به کاربران اجازه میدهد تا برنامهها و وبسایتهای خاصی را از ذخیره شدن استثنا کنند، که قرار است اطمینان حاصل کند که کاربران توانایی کنترل آنچه ذخیره میشود و آنچه ذخیره نمیشود را دارند – اما سوال باز باقی مانده که آیا این یک شبکه ایمنی کافی برای کاربران حرفهای که با اطلاعات حساس شخص ثالث سروکار دارند، خواهد بود.
مدیریت اطلاعات حساس شخص ثالث
ویژگی Recall، در حالی که بیتردید نوآورانه است، نگرانیهای بالقوهای را برای حرفهایها – از وکلا و حسابداران گرفته تا پزشکان و حتی بخشهای حقوق و دستمزد – که بهطور مرتب با اطلاعات حساس شخص ثالث سروکار دارند، مطرح میکند.
بسیاری از حرفهها دارای استانداردهای سختگیرانهای برای محرمانگی و حریم خصوصی هستند، که باعث میشود افراد مسئول اطلاعات حساس ملزم به رعایت استانداردهای سختگیرانه محرمانگی و حریم خصوصی باشند – که سوال مطرح میکند آیا کنترلهای حریم خصوصی ارائه شده توسط Recall، همراه با الزام کاربر به صراحت استثنا کردن یک دسته از برنامهها یا وبسایتها، برای انجام این وظیفه کافی خواهد بود.
طبق اعلام، ویژگی Recall به کاربران اجازه میدهد تا برنامههای خاصی را از فهرست خارج کنند، اما ممکن است همچنان احتمال باقی بماند که یک برنامه مستثنیشده همچنان دارای تعاملات مرتبطی باشد که میتواند اطلاعات شخص ثالث را بهطور نادرست فهرست کند.
علاوه بر این، قابلیتهای حذف ویژگی Recall باید توسط هیئتهای اخلاق حرفهای بررسی شود تا اطمینان حاصل شود که استانداردهای نگهداری و حذف دادهها بهطور کافی رعایت میشوند. در حالی که اعلام شد ویژگی Recall گزینههایی برای حذف عکسهای فردی و حتی بازههای زمانی دارد، ویژگیها باید به اندازه کافی قوی باشند تا اطمینان حاصل کنند که دادههای حذفشده بهطور دائمی پاک شدهاند و به هیچوجه قابل بازیابی نیستند. این یک هدف بلند است و چیزی نیست که مدلهای زبان مصنوعی در آن برتری داشته باشند.
رعایت قوانین
مشابه نگرانیهای مربوط به حذف دادهها و حریم خصوصی، حرفهایها باید در نظر بگیرند که چگونه ویژگی Recall با تعهدات قانونی مانند احضاریهها و درخواستهای تولید دادهها مقابله میکند.
کاربران حرفهای ممکن است بهطور منظم ملزم به ارائه اسناد خاص یا مجموعهای از دادهها در طول مراحل قانونی باشند و ضروری است که ویژگی Recall بتواند این درخواستها را بهطور دقیق و امن مدیریت کند – بدون به خطر انداختن اطلاعات دیگر. ایجاد تعادل بین رعایت تعهدات قانونی و به خطر انداختن اطلاعات حساس دیگر کلیدی خواهد بود، و باید دید که آیا هوش مصنوعی قادر به انجام این وظیفه است یا نه.
چشمانداز
در حالی که رایانههای +Copilot مایکروسافت و بهویژه ویژگی Recall تقریباً بهطور قطعی آینده در محاسبات شخصی و حرفهای را نشان میدهند و آنها دارای پیشرفتهای قابلتوجهی در هوش مصنوعی هستند که بهرهوری را افزایش میدهند، اما ملاحظات مهمی وجود دارد که کاربران حرفهای باید مد نظر قرار دهند.
اطمینان از حریم خصوصی، امنیت، رعایت قوانین و حتی حذف صحیح دادهها همه برای رعایت استانداردهای اخلاقی و قانونی حیاتی هستند. تنها زمان و آزمایشهای دقیق نشان خواهد داد که آیا این ویژگیهای نوآورانه میتوانند بهطور قابل اطمینانی نیازهای کاربران با چنین الزامات حساس، خاص و دقیق را پشتیبانی کنند یا نه.
منبع:فوربس