یکی از چالش های مهم در حیطه هوش مصنوعی مرتبط با مباحث اخلاقی در این زمینه است. از تکنولوژی های هوش مصنوعی که در سال های اخیر نیز به شدت مورد استفاده و توسعه قرار گرفته است، تقلید صدا می باشد که هر چند با نگاه به توسعه کسب و کاری مورد استفاده اولیه قرار گرفته بود، امروزه به عنوان یک چالش امنیتی نیز مطرح می شود. این مقاله به مدل های زبانی تی تی اس می پردازد.
مدل‌های TTS (Text-to-Speech) چه می کنند؟
این مدل ها قابلیت این را دارند که متن شما را به صدا تبدیل کنند. در واقع تمرکز این مدل ها بر تبدیل متن های ثبت شده کاربران و تبدیل آن به صدا می باشد. مدل های پیشرفته این تکنولوژی ها از تکنیک‌های جدید مانند WaveNet یا Tacotron برای تولید گفتار با کیفیت بالا استفاده می‌کنند.
در نمونه زیر ما یک متن را به صدای مخاطب تبدیل می کنیم:
مشکل کار کجاست؟ صدای آشنای ناآشنا
تا اینجای کار مشکلی نیست. این تکنولوژی می تواند در تولید محتوی و کلیپ برای کسب و کارها خیلی موثر و باعث کاهش هزینه ها شود. اما برخی ابزارهای هوش مصنوعی تولید شده اند که می توانند صدای خاصی را یاد بگیرند و متن را بر اساس این صدا تولید کنند. به مثال زیر توجه کنید:
این همان داستانی است که در خصوص مارکو روبیو وزیر خارجه آمریکا شنیده اید. به نقل از واشنگتن پست شخصی با استفاده از هوش مصنوعی و تقلید صدای مارکو روبیو اقدام به ارسال پیام های صوتی جعلی برای مقالات ارشد داخلی و خارجی در ایالات متحده کرده است. این فرد با ثبت صدای روبیو به عنوان صدای اولیه و یادگیری هوش مصنوعی از آن اقدام به تولید پیام خود کاملا منطبق با صدای این مقام دولتی کرده است. این موضوع نگرانی هایی را در خصوص کارکرد های هوش مصنوعی در آینده ایجاد کرده است.
آیا دیگر نمی توان به صداهای آشنا اعتماد کرد؟ آیا ممکن است فردی با صدای خواهر یا برادر ما با ما تماس بگیرید و درخواست پول کند و ما غافل از این باشیم که این فقط صدای آشنای یک ناآشناست؟
این موارد بسیاری از مردم را نگران کرده و پیش بینی می شود که راه های کلاهبرداری از این طریق نیز در آینده نزدیک بسیار زیاد شود. دیگر حتی نمی توان به صدا و تصویر مقالات رسمی نیز اکتفا کرد. جهانی پر از نا امنی هویتی که بنظر می رسد می تواند آسیب های جدی را برای امنیت داخلی و ملی به دنبال داشته باشد.
چطور خود را برای چنین عصری آماده کنیم؟
هر چند در شرایط پیش رو باید خیلی حرفه ای رفتار کنیم اما باز هم هر روز میبینیم که روش های جدیدی تولید می شود اما برای حفظ امنیت در چنین جهانی که در پیش روی ماست نکات ایمنی زیر را می توانید رعایت کنید:
رفتار هیجانی نداشته باشید: وقتی می بینید صدایی از یکی از عزیزان شما به دستتان میرسد که از شما درخواستی خارج از عرف معمول دارد هیجانی رفتار نکنید و کمی موضوع را بیشتر بررسی کنید.
مثل ماموران امنیتی رفتار کنید: با عزیزان نزدیک خود یک سری رمز شب داشته باشید. برای مثال وقتی از شما مبلغ یا خواسته متفاوتی دارد باید یک رمز در گفته هایش بگنجاند. شاید فکر کنید که این دیگه خیلی زیادی هست. ولی باور کنید به زودی به این کارها نیاز پیدا می کنید.
استفاده از تکنولوژی های تشخیص تغییرات صدا: به مرور که این تهدیدات بیشتر می شوند تکنولوژی هایی نیز برای بررسی اصالت صدا طراحی می شوند. دقیقا مثل زمانی که ویروس ها به کامپیوترها حمله کردند و شرکت ها نیز اقدام به طراحی آنتی ویروس کردند. البته که این مبارزه کمی پیچیده تر هست. چرا که هوش مصنوعی می تواند به روز شود و از تکنولوژی های موجود نیز سریعتر عمل کند.
به هرحال نمی توان توصیه های زیادی کرد. البته شما هم اگر مثل دایی من باشید که معمولا وقتی کمکی ازش می خوام، اگر مالی باشه تا مدت ها جواب تلفن رو هم نمیده شاید مشکلی برای شما پیش نیاد ولی همیشه که اینطور نیست !!!! پس مراقب باشید و به روز.
