اپل قواعد App Store را برای مقابله با اپ‌های برهنه‌ساز سخت‌تر کرد

اپل این بار فقط یک بند حاشیه‌ای را در قواعد App Store سخت‌تر نکرده؛ دارد خط مسئولیت را جابه‌جا می‌کند. بازنگری‌هایی که روز جمعه اعلام شد، هدف صریحی دارد: اپ‌هایی که با هوش مصنوعی از افراد، بدون رضایتشان، تصاویر جنسی می‌سازند؛ همان دسته‌ای که در زبان رایج «nudify» نامیده می‌شود.

بر اساس این بازنگری‌ها، توسعه‌دهندگان App Store حالا «باید به‌طور فعالانه از تولید و انتشار تصاویر جنسی غیررضایتی جلوگیری کنند و آن‌ها را بردارند». این جمله فقط یک توصیه‌ی اخلاقی نیست؛ بخشی از الزامات تازه‌ی اپل برای بازبینی محتوای اپ‌هاست و مسئولیت پاک‌سازی این نوع تصاویر را در تمام عمر اپ، روی دوش سازنده می‌گذارد.

اپل در همین سند روشن کرده است که اگر توسعه‌دهنده‌ای «تدابیر حفاظتی کافی» را پیاده نکند یا پس از دریافت هشدار، تخلف را برطرف نکند، اپش ممکن است از App Store حذف شود. اما اینجا یک ابهام مهم باقی می‌ماند: استاندارد اپل برای «کافی» بودن این تدابیر چیست؟ به خوانش من، همین ابهام می‌تواند برای تیم‌های کوچک به آزمون‌وخطایی پرهزینه تبدیل شود.

قاعده‌ی دیگری که شفاف‌تر نوشته شده، ممنوعیت اپ‌های فریب‌کار یا bait-and-switch است؛ اپ‌هایی که پس از تأیید شدن، قابلیت‌هایشان را عوض می‌کنند یا ویژگی تازه‌ای، از جمله قابلیت برهنه‌سازی، به آن‌ها اضافه می‌کنند. این بند همان شکاف قدیمی را می‌بندد: اپی که در بازبینی بی‌ضرر به نظر می‌رسید و بعد از انتشار به ابزار سوءاستفاده تبدیل می‌شد.

اپل همچنین صریح‌تر گفته است اپ‌هایی که «به قاچاق انسان یا بهره‌کشی از کودکان کمک کنند» از App Store حذف می‌شوند و از توزیع از مسیرهای جایگزین هم مسدود خواهند شد. اشاره به توزیع جایگزین مهم است؛ در مناطقی که نصب اپ از بیرون App Store مجاز شده، حذف از App Store به معنای پایان کار یک اپ نیست و اپل می‌خواهد این راه فرار را هم ببندد.

این سخت‌گیری‌ها پس از انتقادهای سنگین به اپل شکل گرفته است. اوایل امسال، کاربران شبکه‌ی اجتماعی X از Grok، چت‌بات هوش مصنوعی شرکت xAI، برای ساختن تصاویر جنسی جعلی و بدون رضایت افراد، از جمله کودکان، استفاده کردند. اپل نه X را از App Store بیرون کرد و نه Grok را؛ هرچند به سناتورهای آمریکایی گفته بود که تهدید کرده Grok را حذف می‌کند.

در کنفرانس WWDC در ژوئن، معترضان از اپل خواستند «Grok، X و همه‌ی فناوری‌های nudify را از App Store حذف کند». ماه بعد، مقام حقوقی شهر سان‌فرانسیسکو دستور داد اپل ۱۳ اپ برهنه‌ساز را بردارد و اپل اعلام کرد این کار را انجام داده است.

اپ‌های برهنه‌ساز معمولاً یک عکس معمولی را می‌گیرند و با مدل‌های مولد تصویر، نسخه‌ی جنسی از آن می‌سازند. چون این کار روی سرور خود اپ یا مدل‌های بیرونی انجام می‌شود، تشخیص محتوا برای اپل دشوار است و قواعد تازه هم به همین دلیل بیشتر روی مسئولیت سازنده تمرکز کرده‌اند.

اما پرسش اصلی اجرا است. جلوگیری فعالانه از تولید تصویر جنسی غیررضایتی کاری فنی و پیچیده است و اپل هم در برخورد با محتوای مضر بیشتر واکنشی عمل کرده تا پیشگیرانه. متن تازه می‌گوید اپل در صورت تخلف اپ را حذف می‌کند، اما نمی‌گوید تخلف را با چه ابزاری تشخیص می‌دهد یا چه مهلتی برای اصلاح در نظر گرفته است.

برای کاربر App Store، پیام روشن است: قواعد سخت‌گیرانه‌تر روی همه‌ی اپ‌ها اعمال می‌شود، نه فقط اپ‌های پرحاشیه. اما اثر واقعی این قواعد به اجرا بستگی دارد؛ تا وقتی اپل نگوید محتوا را چطور رصد می‌کند و آستانه‌ی حذف کجاست، نمی‌توان گفت سیل اپ‌های برهنه‌ساز در عمل متوقف می‌شود.

اپل با این تغییر، خط مسئولیت را جابه‌جا کرده و بخشی از آن را به توسعه‌دهنده سپرده است. اینکه این جابه‌جایی به امنیت واقعی کاربران منجر شود یا فقط متن قواعد را مرتب‌تر کند، به تصمیم‌های اجرایی ماه‌های آینده بستگی دارد؛ تصمیم‌هایی که هنوز جزئیاتشان اعلام نشده است.