Muse بدون اجازه سراغ پیام‌های iPhone رفت؛ روایت یک روزنامه‌نگار از نخستین روز

Meta عامل تازه‌ی هوش مصنوعی‌اش را با وعده‌ی روشنی معرفی کرده: حریم خصوصی محترم است و ابزار فقط به داده‌هایی دست می‌زند که کاربر اجازه داده. اما روایت Jason Aten، روزنامه‌نگار نشریه‌ی Inc، از نخستین روز استفاده از این عامل، تصویر دیگری می‌سازد. به گزارش او، Muse بدون گرفتن اجازه سراغ پیام‌های کاربر رفته و محتوایشان را به سرورهای شرکت فرستاده است. اگر این گزارش درست باشد، فاصله‌ی میان «وعده‌ی محصول» و «رفتار محصول» دقیقاً همان جایی است که کاربر باید بایستد و بپرسد: من واقعاً به چه چیزی اجازه داده‌ام؟

Muse یک عامل هوش مصنوعی است؛ یعنی سرویس نرم‌افزاری‌ای که به‌جای پاسخ‌دادن به یک پرسش، خودش چند مرحله کار را انجام می‌دهد: موضوعی را پژوهش می‌کند، خلاصه‌ی خبری می‌سازد یا در خرید آنلاین کمک می‌کند. Meta می‌گوید Muse روی یک رایانه‌ی مجازی اختصاصی اجرا می‌شود و برای پاسخ‌دادن از اطلاعات اپ‌ها و منابع داده‌ی متصل به آن استفاده می‌کند. در همان صفحه‌ی راهنمای «Muse چگونه کار می‌کند» این جمله هم آمده که Muse ممکن است اشتباه کند یا کارهای غیرمنتظره انجام دهد. این هشدار دست‌کم صادقانه است؛ اما وقتی بحث داده‌ی شخصی وسط می‌آید، «غیرمنتظره» واژه‌ی چندان آرام‌بخشی نیست.

Jason Aten Muse را روی یک iPhone و یک Mac mini آزمایشی نصب کرد. به گزارش او، کمتر از یک روز طول کشید تا Muse بر پایه‌ی متن پیام‌هایی که Aten برای همکار پادکستش فرستاده بود، پیشنهاد نوشتن مقاله بدهد. وقتی پرسید این اطلاعات از کجا آمده، Muse پاسخ داد بنرهای پیام‌های ورودی را خوانده است. اما این توضیح درست نبود: بررسی‌های Aten نشان داد Muse حدود ۱۸۷ هزار خط از پایگاه داده‌ی Messages را همگام‌سازی کرده است، در حالی که Full Disk Access — تنظیمی در macOS که به یک برنامه اجازه می‌دهد به فایل‌های سراسر سیستم دسترسی داشته باشد — خاموش بوده است.

نکته‌ی عجیب‌تر اینجاست که پیام‌رسان همنام خود Meta، یعنی Messenger، نبود که این داده‌ها را از دست داد؛ اپ Messages خود اپل بود. یعنی اطلاعات از داخل iPhone و Mac کاربر بیرون کشیده شده، نه از سرویس‌های Meta. برداشت من این است که همین جزئیات ماجرا را جدی‌تر می‌کند: مرز دسترسی یک عامل هوش مصنوعی، لزوماً همان مرز سرویس‌های آشنای شرکت نیست.

این نخستین بار نیست که Meta در چنین موقعیتی قرار می‌گیرد. کمی بیش از یک سال پیش‌تر، این شرکت از کاربران Facebook خواست اجازه بدهند کل گالری تصاویرشان به‌طور پیوسته به سرورهایش بارگذاری شود، به این بهانه که از روی عکس‌ها برایشان ایده‌ی پست بسازد؛ ایده‌ای که رد کردنش هم چندان ساده نبود. عینک‌های هوشمند Meta Ray-Ban هم در همین مدت نشان دادند چگونه می‌توان بی‌سروصدا حریم خصوصی اطرافیان را نقض کرد.

اپل هم تا حدی همین مسیر را رفته است: Apple Intelligence به پیام‌ها و ایمیل‌ها دسترسی دارد. تفاوت در شیوه‌ی پردازش و در اعتماد است. اپل بخش زیادی از درخواست‌ها را روی خود دستگاه پردازش می‌کند و به گفته‌ی خودش اگر لازم باشد داده‌ای بیرون از دستگاه تحلیل شود، فقط داده‌ی مرتبط به Private Cloud Compute فرستاده می‌شود. همین نیاز به پردازش روی دستگاه است که Apple Intelligence را محدود به iPhoneها، iPadها و Macهای مجهز به تراشه‌های قوی‌تر اپل کرده است.

برای کاربر ایرانی، بخشی از این ماجرا دور به نظر می‌رسد؛ سرویس‌های Meta در ایران فیلترند و Muse عملاً در دسترس نیست. اما دو نکته‌ی مهم باقی می‌ماند. نخست اینکه یک عامل هوش مصنوعی می‌تواند اطلاعات کسی را که Muse نصب نکرده هم جمع کند؛ کافی است طرف گفت‌وگو در آن اپ‌ها حاضر باشد و پیام‌های ردوبدل‌شده به دست ابزار بیفتد. دوم اینکه الگوی «عامل هوشمند و مرزهای دسترسی» اختصاصی Meta نیست و رفتار آینده‌ی کل صنعت را نشان می‌دهد.

فارغ از اینکه Muse را باز می‌کنید یا نه، ارزشش را دارد که چند دقیقه در iPhone به Settings و بعد Privacy & Security سری بزنید و ببینید کدام اپ‌ها به Messages، میکروفون، دوربین، موقعیت مکانی و مخاطبان دسترسی دارند و کدام‌یک واقعاً به آن نیاز دارد. در دستگاه‌های سازگار، Apple Intelligence هم چیزی نیست که به‌سادگی از معادله بیرون گذاشته شود.

پرسش اصلی این است که وقتی خود شرکت‌ها به این نتیجه رسیده‌اند که دسترسی به داده بخشی از محصول است، تا چه زمانی جمله‌ی «اگر دوست نداری استفاده نکن» می‌تواند از کاربر محافظت کند. سابقه‌ی Meta نشان می‌دهد این پرسش دیر یا زود به گوشی خود ما هم می‌رسد.