ببخشید، من یک تعطیلات طولانی 7 روزه داشتم و 6 روز با صدای لی جون مورد سرزنش هوش مصنوعی قرار گرفتم.
خود لی جون بی گناه مورد اصابت گلوله قرار گرفت و وبلاگ نویسان در آستانه نقض قانون یا قبلاً قانون را آزمایش می کردند، به طور خلاصه هیجان را تماشا کردند و سپس به بخش حقوقی شیائومی بازگشتند و نتوانستند آن را پس بگیرند قمه 40 متری در دستانشان.
شبیه سازی صدا در واقع چیز جدیدی نیست، اما پیامدهای تکثیر آن به تازگی آشکار شده است.
این فقط یک شوخی نیست، این بار هوش مصنوعی تا حدودی به نتیجه رسیده است
اخیراً ویدیوهای زیادی از «لعنت کردن لی جون» بر روی Douyin و Bilibili منتشر شده است.
▲ این یک جعل است
او در ابتدا مستقیماً احساسات خود را بیان کرد و هویت خود را اعلام کرد: "سلام به همه، من لی جون هستم."
▲این یک شوخی است
هیچ موضوع تابویی وجود ندارد. من در مورد بازی کردن بسکتبال، فال ماهجونگ و بازی ها احساس بدی ندارم تصویر برند، مانند تماشای فیلم های پورنوگرافیک در تلفن های همراه شیائومی.
▲این یک جعل است.
لحن ملایمی دارد اما فحش های همیشگی دارد که برخلاف خود لی جون از من به عنوان یک پیرمرد و جانور صحبت می کند، با مادران دیگران احوالپرسی می کند و حتی شایعه می کند و تهدید می کند و ادعا می کند که تلفن های همراه شیائومی را از راه دور کنترل می کند. برای خود تخریبی و ضربه زدن به مردم با شیائومی Su7.
▲ این یک جعل است
همچنین برخی از کاربران اینترنتی با ایده های شگفت انگیزی هستند که از هوش مصنوعی برای جعل کردن پاسخ لی جون استفاده کردند. پیچ و تاب نیمه دوم در تصویر به سختی قابل مشاهده است، ادامه دهید عطر از دهان شما بیرون می آید و مردم را غافلگیر می کند.
خود لی جون از قبل می دانست که توسط هوش مصنوعی شوخی شده است.
تصویر لی جون همیشه نسبتاً قابل دسترس بوده است، و او بدش نمی آید که خودش را مسخره کند، او آهنگ معروف خود "آیا خوب هستید" را خواند این زمان به وضوح بسیار متفاوت است.
مسخره کردن شوخی، بیش از حد مبتذل و یا حتی بدخواه بودن توصیه نمی شود.
این ویدئوها نه تنها بر هوش مصنوعی بودن آنها تاکید می کنند، بلکه از عکس های واقعی برای عکس ها استفاده می کنند خورشید نقض واضح تر است.
بخش حقوقی شیائومی کار خود را انجام داده است در حال حاضر، هنگام جستجوی «دوبله هوش مصنوعی Lei Jun» در Douyin، دیگر هیچ حرف ناسزا، شایعه یا فحشی وجود ندارد.
نقض هوش مصنوعی هنوز یک چیز جدید است، اما درس هایی وجود دارد که باید از گذشته آموخت.
فروردین ماه امسال، حکم بدوی اولین «پرونده نقض صوت هوش مصنوعی» کشور صادر شد که به وضوح محدوده حمایت از حقوق و منافع صدای اشخاص حقیقی را با فرض قابل شناسایی بودن مشخص کرد. برای صداهای تولید شده توسط هوش مصنوعی قابل دسترسی است.
در اینجا یک مفهوم کلیدی وجود دارد، تشخیص چیست؟ در این پرونده تخلف، علاوه بر استفاده از صدا، به یک معیار رو به رو نیز اشاره شده است: آیا شنوندگان عادی در حوزه مربوطه می توانند آن را تشخیص دهند؟
این استاندارد به دوبله هوش مصنوعی لی جون تعمیم داده شده است، اگرچه محتوای بسیاری از ویدیوها در نگاه اول شبیه به سبک لی جون نیست، اما صداها در واقع شبیه به خود لی جون هستند.
به طور خلاصه، اینترنت مکانی خارج از قانون نیست و هوش مصنوعی نمی تواند از قدرت Skynet فرار کند. در مورد بی طرفی تکنولوژیکی صحبت نکنید، این انسان ها هستند که از ابزار استفاده می کنند که باید مسئولیت آن را بر عهده بگیرند.
جعل آسان است، اما آیا به چگونگی رفع مشکل فکر کرده اید؟
گسترش گسترده صدای AI Lei Jun همچنین نشان دهنده این واقعیت است که شبیه سازی صداها آسان تر و آسان تر می شود. اگرچه تیم حفاظت از حقوق وارد عمل شد، اما رسانه‌های اجتماعی مدتی است که سر و صدا شده است.
برخلاف زمانی که از استفانی سان خواسته شد که آواز بخواند، مدل آموزشی SoVITS مورد نیاز بود، که کمی حرفه ای بود و عملکرد تجهیزات را آزمایش می کرد، حالا اگر از کسی بخواهید چیزی بگوید، می توان آن را مستقیماً تولید کرد در وب سایت تقریبا در زمان واقعی.
▲ وب سایت شبیه سازی صدا دارای بسیاری از شخصیت های هوش مصنوعی است که توسط خود کاربران آپلود شده اند.
مدتی پیش، سه گوسفند، شرکت پیشرو پخش زنده، هنوز از "دروازه کیک ماه" بیرون نیامده بود و پس از نهایی شدن تابوت، هوش مصنوعی نیز مقصر بود.
محتوای ضبط شده ای که مشکوک به اجرای سه گوسفند بود فاش شد. برای مدتی، مردم باور نمی کردند که هوش مصنوعی آنقدر قدرتمند است که می تواند اظهارات مستانه ای کند و خود را به ستون قانونی بفرستد.
اگر باور نمی کنید، من به سادگی یک وب سایت شبیه سازی صوتی را امتحان کردم، می توانید با ثبت آدرس ایمیل خود از آن استفاده کنید.
اگرچه افکت ایجاد شده دارای ایراداتی از جمله نویز و بلعیدن است و کیفیت صدا مانند آن است که از آن طرف گوشی می آید، اما تقریباً در زمان واقعی و بدون 500 کلمه تولید می شود و لحن و لحن نسبتاً طبیعی است. چه چیز دیگری برای دوچرخه نیاز دارید؟
▲یک وب سایت شبیه سازی صدا دیگر
دکتر چن پنگ، دانشمند الگوریتم هوشمند Ruilai، به APPSO گفت که قبلاً چندین دقیقه یا ده‌ها دقیقه طول می‌کشید تا اطلاعات چاپ صوتی ما ضبط شود، اما اکنون می‌توان آن را تقریباً در نیم دقیقه یا ده‌ها ثانیه ضبط کرد. اگر چند تماس آزاردهنده دیگر دریافت کنیم، ممکن است صدایمان درز کند.
با این حال، اگر می‌خواهید با دقت بیشتری شبیه‌سازی کنید و لحن و دیگر سبک‌های گفتاری را کپی کنید، مانند اجازه دادن به Guo Degang به زبان انگلیسی متقاطع و Swift Swift به زبان چینی، همچنان به مجموعه بیشتری نیاز دارید.
اما وقتی صحبت از مجموعه به میان می‌آید، افراد مشهور کم نیستند. حوادث کلاهبرداری صوتی هوش مصنوعی در خارج از کشور نیز رخ داده است و این ایده حتی رئیس جمهور را نیز هدف قرار داده است.
در اوایل سال جاری، ساکنان نیوهمپشایر یک تماس صوتی خودکار از بایدن دریافت کردند و به آنها گفته شد که در انتخابات مقدماتی ایالتی رای ندهند، در واقع، صدا با استفاده از ابزار هوش مصنوعی ElevenLabs با هدف تداخل در انتخابات جعلی شده است.
چند روز پس از این حادثه، ElevenLabs حساب آغازگر را مسدود کرد.
ElevenLabs همچنین برخی از اقدامات پیشگیرانه را برای این امر انجام داده است، از جمله "صدای بدون رفتن"، که کاربران را از آپلود یا شبیه سازی صدای افراد مشهور و سیاستمداران منع می کند.
با این حال، یکپارچه نیست در ماه مارس امسال، خبرنگاری از 404 رسانه کشف کرد که می‌توان با اضافه کردن یک دقیقه سکوت در ابتدای فایل، قوانین را دور زد و صدای ترامپ و بایدن را شبیه‌سازی کرد.
شما همچنین می توانید از جادو برای شکست دادن جادو استفاده کنید، اما نرم افزار تشخیص هوش مصنوعی اغلب با صدای تولید شده توسط هوش مصنوعی مشکل دارد.
گزارشگران NPR سه نرم‌افزار تشخیص را آزمایش کردند و نتایج خوش‌بینانه نبود. .
پدیده بسیار جالب دیگری در حادثه صدای AI Lei Jun وجود دارد: علاوه بر تماس آنلاین با بخش حقوقی، برخی از کاربران اینترنتی نیز گفتند، چگونه این پلتفرم اجازه می دهد این نوع محتوا با وجود کنترل نکردن آن محبوب شود؟
«تدابیر برای برچسب‌گذاری محتوای مصنوعی تولید شده توسط هوش مصنوعی (پیش‌نویس برای نظرات)» که توسط اداره فضای مجازی چین در ماه سپتامبر منتشر شد، پیشنهاد کرد که برچسب‌های صریح و ضمنی باید به محتوای مصنوعی تولید شده توسط هوش مصنوعی اضافه شوند. در حالی که دومی به ابرداده اضافه می شود.
▲کاربر بیانیه مستقلی را اضافه می کند
در این میان، پلتفرم انتشار دهنده محتوا چه مسئولیت هایی را باید بر عهده بگیرد؟
اولین مورد این است که بررسی کنیم که آیا فراداده دارای شناسه ضمنی است یا خیر، و اگر چنین است، باید یک یادآوری آشکار اضافه شود. مورد سوم این است که هیچ شناسه ضمنی وجود ندارد.
این مسخره یک مثال است که کاربر خوداظهاری نکرده است و تشخیص پلتفرم در جای خود نبوده است. برخی شناسایی نشدند
▲در بالا مشخص نشده، اما در پایین مشخص شده است
در اوایل امسال، تصاویر مستهجن تیلور سویفت توسط هوش مصنوعی جعلی یک حادثه معمولی از آسیب دیدن افراد مشهور توسط هوش مصنوعی بود، که همچنین نشان دهنده تاخیر در اقدامات اصلاحی بود.
یکی از تصاویر به مدت 17 ساعت در X زنده ماند و قبل از حذف 47 میلیون بار مشاهده شد.
رسانه‌های اجتماعی مانند X و اینستاگرام علاوه بر حذف عکس‌ها، یک بار اجازه جستجوی سوئیفت را نمی‌دادند یا هنگام جستجو اخطار می‌دادند. طرفداران از این واقعیت متنفرند که آهن نمی تواند فولاد شود، بنابراین آنها خود به خود "مربع را سلاخی می کنند" و از عکس های واقعی برای محافظت از بت های خود استفاده می کنند.
▲ هشدار جستجوی اینستاگرام برای تیلور سویفت
هرچه فناوری هوش مصنوعی بیشتر مورد استفاده قرار گیرد، جلوگیری از سوء استفاده دشوارتر می شود.
"پاپ مد" که یک ژاکت پایین پوشیده بود و با استفاده از Midjourney ساخته شده بود، تصاویر و حقایق را به یک چیز از گذشته تبدیل کرد.
وحشتناک ترین چیزی که باید به آن فکر کرد این است که با ادامه پیشرفت فناوری، هوش مصنوعی می تواند افرادی را با ویژگی های بیولوژیکی خاصی که هر روز به واقعیت نزدیک تر می شوند، "تولید" کند.
چهره و اطلاعات شخصی ما لو رفته است. در عین حال، سبک و صدا نقاشی، این چیزها و تکنیک های به ظاهر منحصر به فرد که روزگاری آستانه داشتند، توسط هوش مصنوعی نیز تقلید شده اند که برای فریب مردم عادی کافی است.
امروزه علاوه بر استفاده از ابزارهای فنی و قانونی، ممکن است باید به این فکر کنیم که آیا باید اجماع اخلاقی وجود داشته باشد یا خیر. یک جنتلمن کاری برای انجام دادن دارد و کاری برای انجام دادن ندارد. کاری را که دوست ندارید دیگران با شما انجام دهند با دیگران نکنید.
وقتی آنلاین می‌شویم، بهتر است فرض نکنیم همه چیز درست است، چه رسد به اینکه آغازگر عبور از خط باشیم. ما نه تنها از ساحل به آب خیره می شویم، بلکه یک قایق کوچک در آن بالا نیز هستیم.
# خوش آمدید به دنبال حساب عمومی رسمی وی چت aifaner: aifaner (شناسه WeChat: ifanr در اسرع وقت در اختیار شما قرار خواهد گرفت).
Ai Faner |. لینک اصلی · مشاهده نظرات · Sina Weibo
