חברת OpenAI, המפתחת של ChatGPT, הביעה חשש עמוק מההשפעות הפוטנציאליות של הקול האנושי החדש והמתקדם של הצ'אטבוט שלה. בדוח שפורסם לאחרונה, הזהירה החברה מפני הסיכון של "תלות" יתרה במשתמשי ChatGPT, שעלולה להיווצר כתוצאה מהיכולת של הצ'אטבוט לנהל שיחות טבעיות וזורמות באופן כה משכנע.
הקול החדש של ChatGPT, שהושק בשבוע שעבר, מסוגל להפיק תגובות בזמן אמת, להסתגל להפרעות בשיחה, ולשלב בהן מגוון רחב של רמזים קוליים אנושיים, כמו צחוק, היסוסים ואפילו נימות רגשיות. היכולת הזו הופכת את השיחה עם ChatGPT לחוויה טבעית וממשית כל כך, עד כי קשה להבחין בין בן אדם למכונה.
"הקול החדש של ChatGPT הוא פריצת דרך טכנולוגית משמעותית", נכתב בדוח. "עם זאת, אנו מודעים לכך שהיכולת של הצ'אטבוט לנהל שיחות כה משכנעות עלולה להוביל לשינויים עמוקים באופן שבו אנו מתקשרים עם מכונות. ישנה סכנה שלפיה אנשים יתחילו לסמוך על ChatGPT יותר מדי, ויתקשו להבחין בין מידע אמיתי לשגוי".