Microsoft má problém s novým Bing Chatem: Může se chovat divně, nevázaně a dokonce rasisticky. Což může i vyhledávač Bing Search, u něhož Microsoft už před lety problém vyřešil pomocí služby SafeSearch. Proč by ji tedy nemohl aplikovat také na AI chatboty?
Jak spravujete více cloudů ve vaší firmě?
Kreativní prvky Bing Chatu a dalších chatbotů jsou jednoznačně jednou z jejich nejzajímavějších funkcí, přestože se někdy stávají divnými. Vědci hlasitě odmítají reakce chatbota jako pouhý velký jazykový model reagující na vstup uživatele bez jakéhokoli záměru, ale uživatelům je to prostě jedno. Zapomeňte na Turingův test, říkají: záleží jen na tom, jestli je to zajímavé.
Po článku, že Bing dokáže rasisticky nadávat, když jsem ho lehce navedl dotazem na etnické přezdívky a na který – a to je důležité – předtím odmítl odpovědět nebo odpověděl obecně, jsem strávil několik hodin debatami se čtenáři. Mnozí uživatelé, testeři či dokonce reportér The New York Times mají obdobnou zkušenost, byť je třeba vzít v potaz, že je rozdíl mezi urážlivou a prostě divnou komunikací.
Aby Microsoft Bing Chat zkrotil, udělal dvě věci: potlačil jeho kreativitu a zavedl konverzační omezení. Prostřednictvím prvního nastavení tak lze definovat, zda chcete, aby Bing Chat odpovídal kreativně, vyváženě nebo přesně. Pokud zvolíte třetí možnost, dostanete výsledky podobně jako ve vyhledávači. Zvolte první možnost a Bing nabídne náznak kreativity, téměř vlastní osobnosti.
Skutečným problémem, který s reakcí Microsoftu mám, jsou konverzační limity Bingu. Konverzace vedená s cílem dozvědět se fakta by mohla být uzavřena v šesti (nebo osmi) dotazech, což je současný limit Bingu. Jakékoli kreativní odpovědi však těží z delší interakce. Jednou ze zábavných her, které lidé hrají s ChatGPT, jsou angažované dialogy typu „vyber si sám“ nebo hlubší hraní rolí připomínající hry typu Dračí doupě. S limitem šesti dotazů se však do podobného dobrodružství pustíte těžko.
Vyhledávače však tento problém již vyřešily. Google i Bing používají filtry obsahu, které blokují veškerý, některý nebo žádný urážlivý obsah. (V tomto kontextu „urážlivý“ obvykle znamená text a obrázky pro dospělé, ale může zahrnovat i násilí nebo explicitní jazyk.) Zjednodušeně řečeno je SafeSearch vždy přítomen v „umírněné“ formě, ale máte možnost přepnout jej z „přísného“ na „vypnutý“. Pokud tak učiníte, zobrazí se malé vysvětlení a/nebo upozornění na důsledky takové volby.
Řekl bych, že by Microsoft mohl něco podobného jako je filtr SafeSearch implementovat i do Bing Chatu a odblokovat konverzační limity (i když použití SafeSearch na rozsáhlý jazykový model by mohlo být složitější než úprava výsledků vyhledávání).
Zdá se, že Microsoft pravděpodobně nechce z Bing Chatu udělat klon svého chatbota Tay, ze kterého pravicoví trollové udělali studnici propagandy a nenávisti. A pokud Microsoft stále není schopen nastavit ochranné mantinely, které by tomu zabránily, budiž. Vzpomeňte si, že i Bing Search měl problémy s antisemitskými výsledky.
Chcete dostávat do mailu týdenní přehled článků z Computerworldu? Objednejte si náš mailový servis a žádná důležitá informace vám neuteče. Objednat si lze také newsletter To hlavní, páteční souhrn nejdůležitějších článků ze všech našich serverů. Newslettery si můžete objednat na této stránce.
Ale je také fér říci, že chatbot, který vyznává lásku reportérovi, by mohl být považován za přijatelnější, zejména pokud si to uživatel výslovně zvolí. Koneckonců, Bing již nyní proklamuje, že „Bing je poháněn umělou inteligencí, takže jsou možná překvapení a chyby“ a nabádá uživatele, aby si „ověřovali fakta“. Pokud je uživatel dostatečně dospělý na to, aby se rozhodl pro podivný nebo explicitní obsah, Bing, Google a další vyhledávače tuto volbu uznávají a respektují.
Bing Chat a Google Bard a ChatGPT mohou být stále omezovány. Společnost nechce, aby si lidé pomocí chatbotů vytvářeli své vlastní malé světy, kde bují rasismus, nenávist a zneužívání. Žijeme ale také ve světě, který si cení jak možnosti volby, tak pokroku. Ano, lidská mysl si dokáže představit všelijaké hnusy a hrůzy. Microsoft by si však měl uvědomit, že pokud chce lidem umožnit vyhledávat i tato témata – a redukovat, co je nezajímá –, měla by stejná pravidla platit i pro Bing Chat.
Computerworld si můžete objednat i jako klasický časopis. Je jediným odborným měsíčníkem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.
Obsah Computerworldu je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.
PŘEDPLATNÉ
ČLÁNKY DO MAILU