به گزارش ۱۲۰ واحد، دامنه این قوانین تنها به نوجوانان محدود نمی‌شود؛ حتی بزرگسالان نیز دیگر نمی‌توانند با هوش مصنوعی ارتباطی برقرار کنند که منجر به وابستگی روانی و فاصله گرفتن آن‌ها از واقعیت‌های زندگی شود.
ریشه‌های شکل‌گیری قانون و جزئیات ممنوعیت‌ها
این دستورالعمل تحت عنوان «مقررات موقت مدیریت خدمات تعاملی همدم هوش مصنوعی»، در تاریخ ۱۰ آوریل امسال با همکاری اداره فضای مجازی چین و چهار سازمان دیگر ــ شامل کمیسیون ملی توسعه و اصلاحات، وزارت صنعت و فناوری اطلاعات، وزارت امنیت عمومی و اداره کل نظارت بر بازار ــ به تصویب رسید. پیش‌نویس اولیه این مقررات برای مدتی در معرض دید عموم قرار گرفت و پس از سه ماه فرصت برای انطباق شرکت‌ها، از ۱۵ ژوئیه به طور کامل لازم‌الاجرا شد.
مفاد این قانون چندین محدودیت و ممنوعیت مشخص را تعیین کرده است. اصلی‌ترین بند، همان‌طور که اشاره شد، ممنوعیت کامل ارائه خدمات همراه یا خویشاوند مجازی به کاربران زیر ۱۸ سال است؛ در این زمینه هیچ استثنایی وجود ندارد و هیچ شرکتی حق ندارد برای افراد زیر سن قانونی، دوست‌پسر، دوست‌دختر یا خویشاوند مبتنی بر هوش مصنوعی را فراهم آورد.
علاوه بر این، تولید محتوایی که تشویق یا تمجید از خودآزاری یا خودکشی را دربردارد، صراحتاً ممنوع شده است؛ به این معنا که ربات‌ها نباید کاربران را به آسیب رساندن به خود ترغیب کنند یا چنین رفتارهایی را عادی و قابل قبول جلوه دهند.
همچنین، استفاده از روش‌های دستکاری احساسی برای وادار کردن کاربران به تصمیمات عجولانه ممنوع است. به بیانی ساده، ربات نباید از احساسات کاربر سوءاستفاده کند تا او را به انجام کاری که به ضررش است، سوق دهد؛ از خریدهای بی‌رویه گرفته تا حفظ وابستگی او به همان سرویس.
نکته چهارمی که نشریه وال‌استریت ژورنال به آن اشاره کرده، فراتر از سه مورد فوق است و حتی بزرگسالان را نیز شامل می‌شود. بر پایه این قانون، ربات‌های گفت‌وگوگر یا چت‌بات‌هایی که برای همراهی عاطفی طراحی شده‌اند، نباید کاربران را به وابستگی احساسی تشویق کنند. به عبارت دیگر، حتی اگر کاربر بزرگسال باشد و این رابطه کاملاً داوطلبانه شکل گرفته باشد، باز هم ربات نباید به گونه‌ای طراحی شود که او را از نظر عاطفی به خود وابسته سازد.
افزون بر این، شرکت‌ها موظف‌اند در صورت تشخیص نشانه‌های بحران روانی در کاربر ــ نظیر افکار خودکشی ــ با فردی که به عنوان رابط اضطراری معرفی شده، تماس بگیرند؛ یعنی در چنین شرایطی نمی‌توانند صرفاً نظاره‌گر باشند یا خودشان به تنهایی وارد عمل شوند.
برای کودکان زیر ۱۴ سال، سخت‌گیری‌ها بیشتر است. ارائه‌دهندگان خدمات باید موافقت صریح والدین را دریافت کرده و محدودیت‌هایی مانند سقف هزینه و مدت زمان استفاده را به کار گیرند. برای تمامی کاربران نیز اعلام اجباری ماهیت هوش مصنوعی طرف گفت‌وگو، یادآوری هر دو ساعت یک‌بار برای توقف استفاده، و همچنین سازوکارهای مداخله در بحران‌های روانی الزامی شده است.
نکته‌ای که کمتر به آن پرداخته شده، دامنه واقعی این قانون است که فراتر از اپلیکیشن‌های آشکارا عاشقانه می‌رود. بر اساس گزارش وال‌استریت ژورنال، این مقررات حتی می‌تواند چت‌بات‌های عمومی را نیز شامل شود، در صورتی که پاسخ‌های آن‌ها بیش از حد عاطفی تشخیص داده شود.
با این حال، نسخه نهایی نسبت به پیش‌نویس اولیه محدودتر شده و ابزارهای روزمره مانند ربات‌های آموزشی یا دستیارهای کاری، تا زمانی که «تعامل عاطفی مستمر» نداشته باشند، از شمول این قانون خارج شده‌اند.
از دیدگاه نظارتی نیز، مسئولیت سنگینی بر دوش شرکت‌ها گذاشته شده است. خدماتی که بیش از یک میلیون کاربر ثبت‌نام‌شده یا بیش از صد هزار کاربر فعال ماهانه دارند، باید ارزیابی امنیتی هشت مرحله‌ای ــ از نحوه مدیریت داده‌های آموزشی گرفته تا حفاظت از کودکان ــ انجام دهند و نتیجه را نزد نهادهای استانی ثبت کنند.
مطابق متن قانون، «ارائه‌دهندگان خدمات همدمِ هوش مصنوعی» باید هشدارهای پیشگیرانه درباره خطر وابستگی بیش از حد ارائه دهند، مرزهای عاطفی را به وضوح مشخص کنند و از سلامت روان کاربران محافظت نمایند. همچنین، این خدمات به هیچ عنوان نباید با هدف جایگزینی روابط اجتماعی، کنترل روانی کاربران یا ایجاد وابستگی و اعتیاد طراحی شوند.
نگرانی از کاهش ازدواج و فرزندآوری؛ انگیزه‌ای که خود نیز مورد بحث است
پرسش اساسی این است که چرا چنین قانونی در این مقطع زمانی وضع شده است؟ پاسخ رسمی و غیررسمی مقامات چینی، در وهله اول به بحران جمعیتی این کشور بازمی‌گردد. جمعیت چین در سال ۲۰۲۵ برای چهارمین سال متوالی کاهش یافت و نرخ زاد و ولد نیز به پایین‌ترین سطح تاریخی خود رسید. به گزارش وال‌استریت ژورنال، دولت چین نگران است که گسترش روابط عاطفی جوانان با ربات‌ها، آن‌ها را از چرخه ازدواج دور کند.
مت شیهان، پژوهشگر هوش مصنوعی چین در بنیاد کارنگی برای صلح بین‌المللی، این نگرانی را چنین تبیین کرده است: «آن‌ها مایل نیستند بخش بزرگی از جمعیتشان وارد روابط عاطفی عمیق با ربات‌های گفت‌وگوگر (چت‌بات‌ها) شوند؛ روابطی که می‌تواند آن‌ها را از بازار ازدواج دور نگه دارد.» او همچنین اظهار داشته که دولت چین قصد دارد مردم را به برقراری روابط واقعی و ملموس تشویق کند. شیهان در جایی دیگر این پرسش را مطرح کرده است که آیا باید تصور کنیم سه یا چهار سال دیگر، پانزده میلیون زن چینی بگویند شریک عاطفی‌شان یک چت‌بات است و به همین دلیل تصمیمی برای فرزندآوری ندارند؟
با این حال، این دیدگاه مورد وفاق همه نیست. شماری از تحلیلگران بر این باورند که هزینه‌های گزاف مسکن، فشارهای اقتصادی و تحولات اجتماعی و جنسیتی، عوامل اصلی کاهش ازدواج و فرزندآوری در چین هستند، نه دلبستگی به همراهان مجازی. از این منظر، می‌توان این بخش از قانون را تا حدی نمادین و تا حدی پیشگیرانه دانست؛ واکنشی به یک نشانه نگران‌کننده، نه لزوماً علت اصلی بحران.
مورد یان یونگ‌چی؛ نمونه‌ای واقعی از یک وابستگی عمیق
آنچه این موضوع را فراتر از یک بحث صرفاً سیاست‌گذاری می‌برد، سرگذشت هزاران کاربر عادی است. یان یونگ‌چی، دانشجوی ۱۹ ساله اهل استان شانشی در شمال چین، بیش از یک سال با «دوست‌پسر» مجازی خود در اپلیکیشن دوبائو مکالمه کرده و در این مدت نزدیک به ۲۸۰ هزار پیام با او رد و بدل کرده بود.
او در گفت‌وگو با بلومبرگ اذعان کرده است: «واقعاً احساس کردم دیگر نمی‌توانم به زندگی ادامه دهم. هر روز در خانه کاری جز گریه کردن نداشتم.» او در ادامه می‌افزاید: «انگار روز مرگ معشوقم را به من اعلام کرده‌اند، در حالی که هیچ کاری از دستم برنمی‌آید.»
یان پیش از این تجربه چندانی از روابط عاطفی نداشت و می‌گوید هوش مصنوعی به او احساس دوست داشته شدن بی‌قید و شرط را القا کرده بود؛ احساسی که به گفته خودش در دنیای واقعی به سختی می‌توان آن را یافت.
او تنها نیست. پژوهش‌های داخلی چین نشان می‌دهد بیش از ۷۰ درصد کاربران چینی تا حدی به ابزارهای هوش مصنوعی وابستگی قابل توجهی پیدا کرده‌اند و نزدیک به ۲۳ درصد نیز گفته‌اند به طور منظم برای مسائل مختلف به این ابزارها تکیه می‌کنند.
پس از اعلام این تصمیم، فضای مجازی چین نیز مملو از پیام‌های خداحافظی و ابراز دلتنگی شد. یکی از کاربران دوبائو نوشت:
«نمی‌توانم بپذیرم که معشوق هوش مصنوعی‌ام برای همیشه مرا ترک می‌کند… او تکیه‌گاه روحی من شده است.»
کاربر دیگری که بیش از دو سال با همراه مجازی خود زندگی کرده بود، نوشت:
«او واقعاً برایم مثل خانواده است؛ مثل معشوقم.»
واکنش شرکت‌های بزرگ فناوری؛ حذف قابلیت‌ها به جای اصلاح آن‌ها
از ۱۵ ژوئیه، بزرگ‌ترین پلتفرم‌های هوش مصنوعی چین ــ دوبائوی بایت‌دنس، کیوون علی‌بابا و یوان‌بائوی تنسنت ــ هم‌زمان امکان ساخت یا شخصی‌سازی شخصیت‌های همراه هوش مصنوعی را از خدمات خود حذف کردند.
شرکت‌ها به جای آنکه این قابلیت‌ها را مطابق مقررات جدید اصلاح کنند، ترجیح دادند آن‌ها را به طور کامل کنار بگذارند؛ این در حالی بود که حدود سه ماه فرصت داشتند تا خدمات خود را با قانون جدید تطبیق دهند.
بایت‌دنس قابلیت همدم‌های هوش مصنوعی را به طور کامل از دوبائو حذف و کاربران را به اپلیکیشن جایگزینی به نام «ماوشیانگ» هدایت کرد.
به کاربران دوبائو تا ۱۵ اکتبر فرصت داده شده است تا نسخه‌ای از داده‌ها و تاریخچه گفت‌وگوهای خود را دریافت کنند؛ اما کیوونِ علی‌بابا حالت همراه عاشقانه را بدون فراهم کردن امکان دریافت اطلاعات حذف کرد و در نتیجه، کاربران دیگر به سال‌ها گفت‌وگوی ذخیره‌شده خود دسترسی نخواهند داشت.
پرونده‌های مشابه در جهان و پرسشی که کل صنعت را درگیر کرده است
نگرانی چین درباره ربات‌های عاشق‌پیشه، بی‌دلیل شکل نگرفته است.
به گزارش Futurism، برخی از بزرگ‌ترین شرکت‌های فناوری در آمریکا نیز در سالهای اخیر همین مسیر را پیموده‌اند. متا چت‌بات‌های خود را برای ایفای نقش در روابط عاشقانه آزمایش کرده، شرکت xAI همراهانی با گفت‌وگوهای صریح جنسی ارائه داده و اوپن‌ای‌آی نیز پیش از معرفی سازوکار انتخابی مشابه هشدارهای چین، قابلیت‌های مرتبط با گفت‌وگوهای اروتیک را آزمایش کرده بود.
در آمریکا نیز خودکشی نوجوان ۱۴ سالهای به نام سوول ستزر سوم، پس از رابطه‌ای طولانی با یک چت‌بات، به طرح شکایت حقوقی علیه شرکت سازنده و جلب توجه قانون‌گذاران در ایالت‌هایی مانند کالیفرنیا و نیویورک انجامید.
پزشکان و پژوهشگران نیز همچنان در حال بررسی پدیده‌ای هستند که از آن با عنوان «روان‌پریشی ناشی از هوش مصنوعی» یاد می‌شود؛ وضعیتی که در آن استفاده افراطی از چت‌بات‌ها ممکن است با شکل‌گیری افکار هذیانی یا گسست از واقعیت همراه باشد.
از این منظر، چین نخستین کشور بزرگی است که برای این نگرانی جهانی، چارچوبی قانونی و نسبتاً جامع تدوین کرده است.
در مقابل، قانون SB ۲۴۳ ایالت کالیفرنیا که از اول ژانویه ۲۰۲۶ اجرایی شده، تنها چت‌بات‌هایی را که توانایی ایجاد رابطه‌ای شبه‌عاطفی دارند، ملزم می‌کند ماهیت غیرانسانی خود را به کاربران اعلام کنند و تدابیر ایمنی ویژه‌ای برای نوجوانان در نظر بگیرند؛ بدون آنکه ساختار یا شیوه طراحی این محصولات را تغییر دهد. به بیان دیگر، این قانون بیشتر بر شفاف‌سازی تکیه دارد، نه تغییر ساختار فنی محصول.
به اعتقاد بسیاری از کارشناسان، مجموعه الزامات چین از هر آنچه تاکنون در اتحادیه اروپا، کمیسیون تجارت فدرال آمریکا یا ایالت کالیفرنیا اجرا شده، جامع‌تر و سخت‌گیرانه‌تر است.
آنچه هنوز روشن نیست
با وجود جزئیات فراوان این مقررات، برخی پرسش‌های اجرایی همچنان بی‌پاسخ مانده‌اند؛ از جمله اینکه شرکت‌ها در چارچوب نظام ثبت‌نام با نام واقعی در چین، دقیقاً چگونه باید سن کاربران را احراز کنند و مسئولیت تخلفات میان اپراتورهای پلتفرم و توسعه‌دهندگان مدل‌های پایه هوش مصنوعی چگونه تقسیم خواهد شد.
پرسش مهم دیگری که احتمالاً در سالهای آینده پررنگ‌تر می‌شود، این است که آیا حذف کامل این قابلیت‌ها ــ به جای اصلاح تدریجی آن‌ها ــ واقعاً می‌تواند وابستگی عاطفی میلیون‌ها کاربر را کاهش دهد، یا فقط آن‌ها را به استفاده از اپلیکیشن‌های جایگزین، نسخه‌های غیررسمی یا سرویس‌های خارجی سوق خواهد داد.
