اپل مسئولیت دیپ‌فیک را از دوش کاربر برداشت و روی دوش توسعه‌دهنده گذاشت
اپل دستورالعمل‌های بازبینی اپ‌استور را به‌روزرسانی کرده است تا تصاویر صمیمی غیرتوافقی که با هوش مصنوعی ساخته می‌شوند هم زیر چتر قواعدش بیایند. اما اگر فقط تیتر را بخوانید، مهم‌ترین بخش ماجرا را از دست می‌دهید: مسئولیت جلوگیری از این محتوا از دوش کاربر برداشته شده و روی دوش توسعه‌دهنده گذاشته شده است.
محتوای جنسی صریح از پیش در اپ‌استور ممنوع بود؛ آنچه تازه است، وظیفه‌ای است که اپل حالا بر گردن سازندگان اپ گذاشته: باید فعالانه جلوی تولید و انتشار دیپ‌فیک هوش مصنوعی را بگیرند و محتوای خاطی را حذف کنند. اپل هشدار داده که اگر توسعه‌دهنده کاری نکند، اپش از اپ‌استور حذف می‌شود.
بند ۱.۲ دستورالعمل‌ها که به‌روز شده، اپ‌های ساخت محتوای هوش مصنوعی را نام می‌برد. این بند می‌تواند اپ‌هایی مانند Grok را هدف بگیرد؛ Grok چت‌بات شرکت xAI است، شرکت هوش مصنوعی ایلان ماسک (Elon Musk) که چت‌باتش را در کنار شبکه اجتماعی X عرضه کرده. کاربران شکایت کرده بودند که از Grok برای ساختن تصاویر برهنه و جنسی استفاده می‌شود.
پرونده Grok فقط اشاره‌ای حاشیه‌ای نیست. اوایل همان سال، اپل به xAI هشدار داده بود که اگر اجازه دادن به دیپ‌فیک برهنه ادامه پیدا کند، Grok را از اپ‌استور حذف می‌کند. xAI تدابیر حفاظتی را اضافه کرد و اپل نسخه به‌روزشده اپ را تأیید کرد. این توالی نشان می‌دهد دسترسی به اپ‌استور چقدر برای شرکت‌های هوش مصنوعی حیاتی است.
اپل بند تازه‌ای هم افزوده است: ۲.۵.۱۹. بر پایه این بند، توسعه‌دهنده‌ای که پس از تأیید اپ، قابلیت یا کارکردی را اضافه کند که در نسخه ارسالی برای بازبینی وجود نداشت، خطر حذف از اپ‌استور و برنامه توسعه‌دهندگان اپل را می‌پذیرد. اپل این بند را به اپ‌های «برهنه‌سازی» گره زده؛ اپ‌هایی که هدف واقعی خود را پنهان می‌کنند و بعد از تأیید، قابلیت برهنه‌سازی را اضافه می‌کنند. این ترفند در اپ‌استور «bait-and-switch» نامیده می‌شود.
بخش ۵ دستورالعمل‌ها هم گسترش یافته است. اپل ممنوعیت اپ‌هایی که قاچاق انسان یا بهره‌کشی از کودکان را تسهیل می‌کنند، به توزیع جایگزین هم کشانده است؛ یعنی این ممنوعیت دیگر به اپ‌استور خود اپل محدود نمی‌ماند.
در پست خبری اپل برای توسعه‌دهندگان آمده است: «وقتی این دستورالعمل‌ها نقض شود، در حذف اپ‌ها و پایان دادن به همکاری با توسعه‌دهندگانشان تردید نمی‌کنیم.» لحن این جمله از یک ممنوعیت منفعل به یک وظیفه فعال تغییر کرده و بار نظارتی را به سمت سازنده اپ جابه‌جا می‌کند.
اما آنچه روشن نیست، این است که اپل این پیشگیری فعالانه را چطور راستی‌آزمایی می‌کند. متن دستورالعمل می‌گوید توسعه‌دهنده باید جلوی دیپ‌فیک را بگیرد، بی‌آنکه سازوکار واقعی سنجش و اجبارش را اعلام کند. دقیقاً معلوم نیست تعمیم بخش ۵ به توزیع جایگزین کدام بازارهای اپلیکیشن را در بر می‌گیرد. و اینکه این تغییرات مستقیماً واکنشی به پرونده Grok بوده، به خوانش من استنباط است، نه واقعیتی که اپل اعلام کرده باشد.
برای کاربر عادی، این تغییر بیشتر قاعده‌ای پشت صحنه است تا چیزی که روی صفحه آیفونش دیده شود. اما برای کسی که برای اپ‌استور اپ منتشر می‌کند، معنای روشنی دارد: از این پس پیشگیری از دیپ‌فیک بخشی از فرایند انتشار است، نه کاری که فقط بعد از گزارش کاربر انجام می‌شود.
اپل با یک به‌روزرسانی داخلی، پیش از آنکه قانون‌گذاران به سراغ محتوای هوش مصنوعی بیایند، استانداردی برای مسئولیت آن ساخته است. اینکه این استاندارد در عمل چقدر جدی اجرا شود، به سازوکاری بستگی دارد که اپل هنوز جزئیاتش را نگفته است.
