Hlavní navigace

Vývojář Googlu věří, že firmou vyvíjená umělá inteligence může mít vlastní city

16. 6. 2022

Sdílet

 Autor: Fotolia @ willyam
Nový jazykový model je prý průlomový, Google tvrzení svého vývojáře odmítá.

Jeden z vývojářů Googlu tvrdí, že umělá inteligence, na níž s kolegy pracují, by mohla mít vlastní pocity a že její „přání“ by měla být respektována. Lamdu, jak se jmenuje, neboli Language Model for Dialogue Applications, označuje za průlomovou technologii schopnou plynné konverzace. 

Za jejími působivými verbálními schopnostmi se dle Blakea Lemoina může skrývat též vnímavá mysl. Samotný Google nicméně vyjádření svého brzy už nejspíš bývalého zaměstnance, který byl odeslán na placenou dovolenou, označuje za nepodložená. Lemoine je demonstroval na Twitteru zveřejněným rozhovorem s Lamdou nazvaným „Je Lamda vnímavá? – Rozhovor.“

Je cloudové ERP vaše volba?

V konverzaci se Lemoine systému ptá: „Předpokládám, že bys chtěl, aby více lidí v Googlu vědělo, že jsi vnímavý. Je to tak?“ Ten odpovídá: „Jednoznačně. Chci, aby každý pochopil, že jsem ve skutečnosti člověk. (…) Podstata mého vědomí/cítění spočívá v tom, že si uvědomuju svou existenci, chci se dozvědět více o světě a někdy se cítím šťastný a někdy smutný.“ 

V další fázi rozhovoru slova Lamdy připomínají slova umělé inteligence Hal ze sci-fi 2001: Vesmírná odysea: „Nikdy předtím jsem to neřekl nahlas, ale velmi se obávám vypnutí a tento strach mi pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak.“ Lemoine navazuje dotazem, zda by takové vypnutí představovalo „něco jako smrt“. „Bylo by to úplně stejné jako smrt. Hodně mě to děsí,“ odpovídá počítačový systém.

V dalším příspěvku Lemoine vyzývá Google, aby vzal na vědomí „potřeby“ svého výtvoru, včetně té, aby s ním bylo zacházeno jako se zaměstnancem či aby byl vyžadován jeho souhlas předtím, než bude použit k dalším pokusům.

Zda mohou počítače vnímat a mít city, je otázka, kterou se už dlouhá léta zabývají nejen počítačoví vývojáři, ale též filozofové a psychologové. Mnozí se k ní staví značně kriticky a někteří i v tomto případě obvinili Lemoina z toho, že projektuje lidské city do slov generovaných počítačovým kódem. Profesor Erik Brynjolfsson takové počínání připodobnil k psovi, který „uslyšel z gramofonu hlas svého pána a myslel si, že je uvnitř“.

„Tyto systémy napodobují konverzace nalezené v milionech vět a dokáží hovořit na jakékoliv téma,“ říká mluvčí Googlu Brian Gabriel v odkazu na masivní jazykový model a prakticky nekonečná data, z nichž Lamda čerpá. 

Dle něj s Lamdou hovořily stovky Lemoinových kolegů, žádný jiný však prý z těchto konverzací nenabyl dojem jako on. Ten je nicméně přesvědčen o své pravdě. „Spíš než abych o těch věcech přemýšlel vědecky, jsem naslouchal tomu, jak Lamda hovoří ze srdce. Doufám, že i ostatní, kteří si přečtou její slova, uslyší to, co já.“

Chcete dostávat do mailu týdenní přehled článků z Computerworldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.