Prema Sundaru Pichaiju, generativna veštačka inteligencija se ponekad ponaša na neočekivane načine. Zbog toga je izuzetno važno ići napred sa oprezom, pažljivo prateći reakcije AI. Prema Google-ovim nalazima, jezički modeli ponekad mogu sami da nauče nove veštine, bez znanja programera. Kompanija je ovu misteriju nazvala „nekretninama u nastajanju“.
Na primer, eksperimentalni AI, koji je razvio Google, uspeo je samostalno da nauči „jezik Bangladeša, iako nije bio obučen da ga zna“. Prisutan uz Sundara Pichaija, James Maniika, viši potpredsednik za tehnologiju u Google-u, objašnjava da je AI trebalo samo nekoliko zahteva da se navikne na nepoznat jezik:
„Otkrili smo da sa vrlo malo bengalskih upita on sada može da prevede ceo bengalski.“
Emergentna svojstva proizilaze iz samog rada mašinskog učenja, koje se sastoji u samom mašinskom učenju, na osnovu dostupnih podataka, bez ljudske intervencije. Kada se ova logika dovede do krajnosti, nije toliko iznenađujuće da je veštačka inteligencija uspela da nauči jezik bez pomoći programera.
Međutim, Sundar Pichai ističe da, precizan način na koji je AI otkrio bengalski, još uvek izmiče Google-ovim inženjerima. Generalni direktor priznaje da su ove vrste neobičnosti i dalje „crna kutija“, odnosno sistem čiji su unutrašnji mehanizmi nepoznati:
MD PRO ASSURANCE – osiguranje po vašoj meri
„Znaš, ne razumeš baš. I ne možete sasvim reći zašto je to rekao, ili zašto je pogrešio. Imamo neke ideje, a naša sposobnost da razumemo se vremenom poboljšava.”
U želji da AI pristupi sa „poniznošću“, šef Google podseća da, na isti način, ni „mi ne razumemo u potpunosti kako funkcioniše ljudski um“.