نورنیوز- گروه اجتماعی: شرکت آنتروپیک، سازنده هوش مصنوعی کلود، سیاست استفاده از مدل‌های خود را به‌روزرسانی کرده است؛ تغییری که در کنار محدودیت‌های مربوط به دخالت در انتخابات و برخی کاربردهای پرخطر، رفتارهای مداوم و بی‌دلیلِ توهین‌آمیز با هوش مصنوعی را نیز هدف قرار می‌دهد.
بر اساس گزارش منتشرشده، این شرکت اعلام کرده است که مقررات جدید درباره موارد شدید اعمال می‌شود؛ یعنی شرایطی که کاربران به‌صورت مکرر و بدون هدف مشخص، با مدل‌های هوش مصنوعی رفتاری بی‌رحمانه یا آزاردهنده دارند. آنتروپیک تأکید کرده که این تغییر به معنای ممنوعیت ابراز نارضایتی معمول کاربران یا آزمایش و ارزیابی مدل‌ها نیست.
توهین مداوم به کلود در چه شرایطی ممنوع است؟
به گزارش آنتروپیک، از زمان به‌روزرسانی هوش مصنوعی کلود در ماه اوت، این مدل برای پایان‌دادن به گفت‌وگوهایی که در آنها رفتارهای مضر یا توهین‌آمیز به‌صورت مداوم ادامه پیدا می‌کند، آموزش دیده است. سیاست تازه این شرکت نیز این رویکرد را روشن‌تر کرده و ادامه چنین تعاملاتی را در موارد شدید و فاقد هدف مشخص، ممنوع می‌داند.
با این حال، هرگونه انتقاد، اعتراض یا ابراز نارضایتی از پاسخ‌های هوش مصنوعی مشمول این محدودیت نیست. بر اساس توضیحات منتشرشده، محتوای خلاقانه، آزمایش مدل‌ها و واکنش‌های معمول کاربران به عملکرد هوش مصنوعی، در دایره این ممنوعیت قرار نمی‌گیرند.
این تغییر در شرایطی اعلام شده که آنتروپیک در برخی همکاری‌های خود با پژوهشگران حوزه دین، موضوعاتی مانند احتمال آگاهی یا داشتن روح از سوی هوش مصنوعی را نیز بررسی کرده است؛ موضوعی که همچنان محل بحث و اختلاف‌نظر است.
مقررات تازه آنتروپیک درباره انتخابات، نظارت و تسلیحات
به‌روزرسانی سیاست‌های آنتروپیک تنها به نحوه تعامل کاربران با هوش مصنوعی محدود نمی‌شود. این شرکت همچنین مقررات مربوط به فعالیت‌های فریبکارانه، دخالت در انتخابات و کاربرد مدل‌های هوش مصنوعی در حوزه‌های مرتبط با تسلیحات و نظارت را شفاف‌تر کرده است.
بر اساس این مقررات، استفاده از کلود برای ایجاد شبکه‌های حساب جعلی، راه‌اندازی رسانه‌های خبری ساختگی با هدف فریب یا انجام فعالیت‌هایی که رأی‌دهندگان را گمراه می‌کند و فرایندهای انتخاباتی را مختل می‌سازد، ممنوع است. آنتروپیک این محدودیت‌ها را در بخشی با عنوان «فرایندهای دموکراتیک را تضعیف نکنید» گردآوری کرده است.
این شرکت همچنین در سیاست‌های خود بر محدودیت استفاده از مدل‌هایش برای توسعه تسلیحات و ابزارهای نظارتی تأکید کرده است. به‌روزرسانی جدید با هدف روشن‌ترکردن چارچوب استفاده از محصولات آنتروپیک و مشخص‌کردن رفتارهای ممنوع انجام شده است.
