קולות בינה מלאכותית הטעו מאזיני פודקאסטים רבים

בניסוי שנערך על ידי סטודנטים ופרופסור מ-Oslo Met, מאזינים רבים התקשו להבחין בין קולות אנושיים לקולות שנוצרו באמצעות בינה מלאכותית.

הניסוי כלל 60 סטודנטים שאינם דוברי אנגלית כשפת אם, אשר הקשיבו לקטעי פודקאסט במבטא אנגלי-אמריקאי. חלק מהקטעים הופקו על ידי בני אדם, חלקם שילבו תסריט אנושי עם קולות סינתטיים, וחלקם נוצרו באופן מלא על ידי בינה מלאכותית.

במקרה בולט אחד, שבו נעשה שימוש ב-Google NotebookLM ליצירת התסריט והקולות, 56 אחוזים מהמשתתפים האמינו כי הם שומעים קולות אנושיים. רק 22 אחוזים זיהו את הדיבור כסינתטי, בעוד ש-15 אחוזים לא היו בטוחים.

בניגוד לכך, בקטע העוסק בספורט שבו נעשה שימוש ב-ElevenLabs לקריאת תסריט אנושי, 65 אחוזים מהמשתתפים זיהו את הדיבור כסינתטי, ורק 9 אחוזים האמינו שמדובר בקולות אנושיים. החוקרים ציינו כי שיחות ספורט מאופיינות לרוב ברגש ובספונטניות, אך הם לא קבעו בוודאות שזהו הגורם להבדל, שכן הקולות הסינתטיים הספציפיים בקטע זה נשמעו פחות אנושיים מאחרים.

התוצאות הכלליות הראו כי המשתתפים הצליחו להבחין בין דיבור טבעי לסינתטי טוב יותר מאשר במקרה של Google NotebookLM, אך היו מקרים רבים של טעויות לשני הכיוונים. החוקרים מדווחים כי קולות בינה מלאכותית התקרבו מאוד לאופן שבו בני אדם מדברים, כאשר הבחנה ביניהם עשויה לדרוש הקשבה מדוקדקת לאורך זמן.

החוקרים מצביעים על כך שקצב הדיבור, המקצב והספונטניות הם גורמים מרכזיים בזיהוי. דיבור סינתטי עלול להיות אחיד מדי, מהיר מדי או איטי מדי, ולעיתים נשמע כקריאה מתסריט מוכן בניגוד לבני אדם שחושבים ומגיבים תוך כדי דיבור. כדי להפוך את הדיבור לטבעי יותר, נשמרו בחלק מהקטעים קולות קטנים כמו "אמ", "אה" ו"אוה".

בנוסף, נמצא כי משך ההקשבה משפיע על התפיסה. עבור חלק מהקטעים, חלק ניכר מהמשתתפים שינו את דעתם במהלך ההאזנה. בקטע אחד שנוצר כולו על ידי בינה מלאכותית, כחצי מהמשתתפים שינו את הערכתם תוך כדי ההקשבה.

החוקרים הזהירו מפני סיכוני שימוש לרעה, כגון שיבוט קולות שעלול לשמש להונאות לצורך קבלת כספים או סיסמאות. הם קראו לפתח גישה ביקורתית כלפי תוכן שמע, בדומה לגישה כלפי טקסטים או סרטונים שנוצרו על ידי בינה מלאכותית.