OpenAI се притеснява, че хората може да станат зависими от ChatGPT в общуването, което се дължи на неговия човешки звучащ гласов режим .

Разширеният гласов режим на ChatGPT звучи забележително реалистично. Той реагира в реално време, може да се адаптира към прекъсване, издава звуците, които хората издават по време на разговори, като смях или „хмм“. Може също така да прецени емоционалното състояние на говорещия въз основа на тона на гласа му.

В рамките на минути след като OpenAI обяви функцията, тя беше сравнена с дигиталния асистент с изкуствен интелект във филма „Her“ от 2013 г., в който главният герой се влюбва, само за да остане разочарован, когато изкуственият интелект признава, че „тя” също има връзки със стотици други потребители.

Сега OpenAI се опасява, че измислената история е твърде близо до това да се превърне в реалност, след като каза, че е наблюдавал потребители да говорят с гласовия режим на ChatGPT на език, „изразяващ споделени връзки“ с инструмента.

Според публикуван по темата доклад, „потребителите могат да създадат социални взаимоотношения с ИИ, намалявайки нуждата си от човешко взаимодействие – потенциално облагодетелствайки самотните хора, но вероятно засягайки здравите взаимоотношения“. Той добавя, че чуването на информация от бот, която звучи като човек, може да накара потребителите да се доверят на инструмента повече, отколкото би трябвало, като се има предвид склонността на AI да обърка нещата.

Докладът подчертава мащабния риск, свързан с изкуствения интелект: технологичните компании се надпреварват да внедрят бързо публичните AI инструменти, които според тях могат да променят начина, по който живеем, работим, общуваме и намираме информация. Но те го правят, преди някой наистина да разбере какви са тези последици. Както при много технологични постижения, компаниите често имат една представа за това как техните инструменти могат и трябва да бъдат използвани, но потребителите измислят цял ​​набор от други потенциални приложения, често с непредвидени последици.

Някои хора вече създават това, което описват като романтични връзки с чат ботове с изкуствен интелект, предизвиквайки безпокойство от експерти по връзките.

В доклада се посочва, че взаимодействието на човешките потребители с гласовия режим на ChatGPT също може с течение на времето да повлияе на това, което се счита за нормално в социалните взаимодействия.

Засега OpenAI казва, че се е ангажирал да изгражда AI „безопасно“ и планира да продължи да изучава потенциала за „емоционална зависимост“ от потребителите на неговите инструменти.