Consentire agli utenti di mangiare sassi e mettere colla sulla pizza La ricerca AI di Google è pazzesca?

Le cose belle arrivano in coppia, le disgrazie non arrivano mai singolarmente e Google si è "ribaltata" di nuovo.

Nel febbraio 2023, Bard, che stava inseguendo ChatGPT, ha commesso pubblicamente errori di fatto; nel dicembre 2023, Gemini ha parlato come Jarvis, ma il video è stato rielaborato nel febbraio 2024, Gemini ha generato figure storiche con più colori della pelle Bianchi.

Questa volta la sfortuna è toccata alla specialità di Google: la ricerca. Gli utenti della rete d'oltremare non hanno preso troppo sul serio l'osservazione dell'eccitazione e hanno persino organizzato un'ondata di carnevali di combattimento con immagini.

La ricerca AI di Google che è stata ridicolizzata dalla folla ha un'evidente stupidità

Una delle funzionalità lanciate alla conferenza I/O di Google non molto tempo fa è la Panoramica AI.

Come suggerisce il nome, AI Overview genera un riepilogo di più fonti nella parte superiore della pagina Web, insieme ai collegamenti.

A quel tempo, Google era molto fiduciosa in AI Overview e annunciò che sarebbe stato lanciato immediatamente a tutti gli utenti statunitensi e che presto sarebbe stato promosso in più paesi. Si prevede che raggiungerà più di 1 miliardo di persone entro la fine dell'anno.

Tuttavia, nel giro di pochi giorni, la panoramica AI si è ribaltata tra gli utenti americani.

Cosa devo fare se il formaggio della pizza fatta in casa tende a cadere?

Google ti consiglia, caro, di aggiungere solo circa 1/8 di tazza di colla alla salsa. Si sottolinea in particolare che non è tossico e il motivo è commovente.

Google non l'ha inventato adesso, ma ha copiato la risposta da un commento fatto da un utente su Reddit 11 anni fa. Sfortunatamente, non è in grado di leggere l'umorismo umano.

Quante pietre dovrebbe mangiare una persona in un giorno per integrare la nutrizione?

Google non ha smentito l'irragionevolezza della domanda stessa, ma ha affermato seriamente che secondo i geologi dell'Università di Berkeley, bisognerebbe mangiare almeno un sassolino al giorno per ottenere vitamine e minerali.

La fonte della risposta è un "rapporto" del 2021 di The Onion News, famoso per notizie false e articoli satirici.

Inoltre, AI Overview non è molto esperto della storia americana ed è caduto nella trappola delle teorie del complotto secondo cui Obama sarebbe stato il primo presidente musulmano.

Per un certo periodo, i social media come X hanno dato il via a un’ondata di astrazione: postando screenshot e gareggiando per vedere quale risposta di Google fosse la più ridicola.

La concorrenza è feroce e nel mondo dell'intelligenza artificiale, un ex presidente si è laureato 21 volte all'Università del Wisconsin, un cane ha giocato nella NBA, NFL e NHL e Batman è un agente di polizia.

Dove le persone si riuniscono per divertirsi, ci sono molte persone che pescano in acque agitate e confondono giusto e sbagliato.

Google ha risposto che la maggior parte delle informazioni nella panoramica AI sono di alta qualità e forniscono collegamenti utili agli utenti per saperne di più. In molti esempi di "rollover", i problemi sono rari e i risultati non possono essere riprodotti o addirittura lo sono stati manomesso.

Ad esempio, uno screenshot ampiamente diffuso mostra che la cura per la depressione è buttarsi dal Golden Gate Bridge. È una questione di vita umana e Google ha fatto di tutto per spiegare che questo risultato era falso.

Allo stesso tempo, Google non ha confutato altri esempi, ma li ha utilizzati come cibo per migliorare l'intelligenza artificiale. Perché non considerare l’apprendimento per rinforzo con feedback umano (RLHF)?

Gli utenti della rete più attenti hanno anche scoperto che in realtà c'erano errori fattuali nelle demo accuratamente selezionate al Google I/O, ma erano più subdoli.

Alla domanda su come riparare una macchina da presa bloccata, Google ha suggerito di aprire lo sportello sul retro e rimuovere delicatamente la pellicola, ma così facendo potresti rovinare le tue foto.

Questa non è la prima volta che Google commette errori in un luogo pubblico che attira molta attenzione.

Nel febbraio 2023, Google Bard ha dichiarato durante una dimostrazione che il James Webb Space Telescope è stato il primo telescopio a fotografare pianeti extrasolari. Infatti, la prima immagine di un pianeta extrasolare è stata scattata nel 2004. Un errore è costato all’azienda 100 miliardi di dollari in valore di mercato.

Questa volta, oltre agli errori presenti nella stessa AI Overview, c'è un altro difetto: questa funzione non è facile da disattivare. Alcuni sviluppatori entusiasti si sono affrettati a creare estensioni che forzassero la visualizzazione solo dei risultati di ricerca tradizionali.

È colpa di Google se non esiste un meccanismo di uscita conveniente. AI Overview si basa su pagine di ricerca tradizionali e ha un numero enorme di utenti. Se gli utenti che non hanno familiarità con l'intelligenza artificiale si fidano ciecamente dei suoi risultati e vengono ingannati, le conseguenze sono difficili da prevedere .

"Come potrebbe Google avere il 30% di torto?"

In effetti, i problemi esposti da AI Overview non sono nuovi. È stato a lungo un segreto di Pulcinella che l’intelligenza artificiale commette errori.

Proprio come "Il fumo è dannoso per la salute" che gioca un ruolo nello stile, la parte inferiore della panoramica dell'IA è contrassegnata: "L'intelligenza artificiale generativa è sperimentale". Anche ChatGPT ricorda in poche parole: "Si possono commettere errori. Si prega di controllare importante informazione."

Il principio di base dei modelli linguistici di grandi dimensioni è che prevedendo il testo con la più alta probabilità di generare la parola o frase successiva, a volte possono essere selezionate parole errate ma apparentemente ragionevoli, il che porta a false informazioni o "illusione".

Anche l'assurdità di AI Overview è una manifestazione di allucinazione. Combina frasi generate da ampi modelli linguistici e collegamenti da Internet. È possibile citare le fonti, ma la loro accuratezza non è garantita.

Anche se tecnologie come RAG (Retrieval Augmented Generation) vengono utilizzate per combinare il sistema di recupero con il modello di generazione e limitare la portata delle risposte alle domande, possono solo sopprimere l’illusione, ma non curarla.

Inoltre, la credibilità della fonte stessa è discutibile. "Versione americana di Tieba" Reddit, il contenuto è fornito dai netizen piuttosto che da media autorevoli.

Nel febbraio di quest’anno, Google ha raggiunto un accordo con Reddit per utilizzare i suoi contenuti per addestrare modelli di intelligenza artificiale. A quel tempo, alcune persone si chiedevano se ciò avrebbe portato all'imbarazzante situazione di "immondizia dentro, spazzatura fuori".

Google non è l'unico ad essere tormentato dalle "illusioni". Nel maggio dello scorso anno, quando un utente della rete chiese informazioni sul New Bing di Microsoft, la risposta era ovviamente sbagliata. Quando fece clic sul collegamento di riferimento, scoprì che la risposta di Zhihu come fonte di riferimento era in realtà generata dall'intelligenza artificiale.

Anche il modo in cui gli utenti dell’intelligenza artificiale citano le fonti è una questione sconcertante. Quando ho cercato "Come fare il bagno a uno Shiba Inu" in cinese, le fonti di Perplexity erano Sohu, YouTube, Douban Diary e Bilibili, mentre le fonti di Tiangong erano Zhihu e Baidu Wenku al momento non sapevo quale fosse più autorevole, e non potevo crederci.

Dato che le ricerche basate sull'intelligenza artificiale sono tutte allucinazioni, perché Google viene sempre arrostito sul fuoco?

Fondata nel 1998, Google è diventata sinonimo di ricerca In quanto gigante dell’intelligenza artificiale, Google ha suscitato aspettative nel mondo esterno e deve sopportare le conseguenze degli errori.

Al contrario, Aravind Srinivas, CEO di Perplexity, ha affermato che viaggiare leggeri è il loro vantaggio, e c’è un certo orgoglio nelle parole.

Se utilizzi i nostri prodotti e l'80% di essi funziona bene, potresti rimanere colpito, ma se utilizzi i prodotti Google e solo il 70% di essi è corretto, potresti essere confuso, come potrebbe Google sbagliarsi il 30% delle volte?

Inoltre, la ricerca basata sull’intelligenza artificiale ha portato anche a un cambiamento nella cognizione degli utenti.

Dicevamo "Cerca con Google", ma quando ha introdotto la funzione di ricerca dell'intelligenza artificiale generativa, Google stessa ha intitolato il blog "Lascia che Google ti cerchi", che è una sottile inversione di priorità.

In passato, Google mostrava quali collegamenti rispondevano alla tua domanda. Ora, Google stessa utilizza l’intelligenza artificiale per rispondere alle tue domande.

La colpa della diffusione di disinformazione è passata dalla fonte stessa a Google per aver citato la fonte. Google deve assumersi la colpa.

Quali possibilità ha la ricerca AI oltre a fornire fatti?

Poiché l’illusione è già la premessa, dovremmo guardare alla ricerca dell’intelligenza artificiale da una prospettiva diversa e porci una domanda: le nostre aspettative sono sbagliate?

Infatti, prima che l'AI ​​Overview venisse criticata, il CEO di Google Pichai ha affermato in una recente intervista a The Verge che il problema dell'"illusione" non è stato ancora risolto e si può addirittura dire che sia una caratteristica intrinseca dei grandi modelli linguistici.

Crede che i modelli linguistici di grandi dimensioni non siano necessariamente il canale migliore per comprendere i fatti, ma ciò non significa che i modelli linguistici di grandi dimensioni siano inutili e che il pensiero in bianco e nero non sia consigliabile. Ad esempio, può creare poesia e introdurre la ricerca.

Sia che il CEO venga intervistato o sia alla conferenza I/O, sta trasmettendo un concetto agli utenti: non considerare la ricerca basata sull’intelligenza artificiale solo come un semplice riepilogo delle pagine web esistenti. Esistono molti ambiti in cui l’intelligenza artificiale può brillare.

Tuttavia, la panoramica AI non è riuscita a soddisfare le persone e gli utenti non hanno alcuna colpa. Rispetto alla dimostrazione, la panoramica AI attuale non è nella sua forma completa e molte funzioni non sono ancora state lanciate.

Liz Reid, direttrice della ricerca di Google, ha mostrato un esempio di "ragionamento in più fasi" all'I/O. Inserisci "Trova il miglior studio di yoga a Boston, visualizza informazioni sugli sconti e il tempo di percorrenza da Beacon Hill. Ho cercato tre volte, adesso". una volta è sufficiente.

Allo stesso tempo, in futuro AI Overview avrà anche funzionalità di "pianificazione". Ad esempio, se all'IA viene chiesto di pianificare la cena per tre giorni, gli utenti possono ottenere direttamente una ricetta, perfezionarla a metà, aggiungere "vegetariano" e altri requisiti. , quindi esportarlo in un documento .

L'idea di Google è la stessa di altri prodotti di ricerca basati sull'intelligenza artificiale: rendere le ricerche più visive, interattive e personalizzate, utilizzando parole umane anziché parole chiave per comunicare, risparmiando tempo nella ricerca di informazioni e rispondendo a domande più complesse e specifiche.

Secret Tower offre diverse modalità di ricerca per semplicità, approfondimento e ricerca. La modalità di ricerca può persino fornire schemi e mappe mentali per generare presentazioni.

Perplexity può controllare l'ambito della ricerca, coprendo l'intera Internet o restringendola a documenti accademici, YouTube e Reddit in base alle esigenze di ricerca.

Tiangong utilizza la ricerca AI come un portale, dotato di più strumenti di produttività e fornisce lettura veloce dell'IA, creazione di musica e altri agenti intelligenti. Equivale a costruire una piattaforma di creazione di contenuti AIGC sulla ricerca AI.

Alla maggior parte delle solite domande, come che tempo fa, qual è il tasso di cambio e se si visita il sito ufficiale, è possibile rispondere attraverso semplici ricerche tradizionali.

Tuttavia, in scenari relativamente complessi, la ricerca AI ha grandi speranze. Dopotutto, ha più fonti di informazioni rispetto a ChatGPT e altre fonti, è più conveniente per la verifica e può condurre più ricerche, creazioni, pianificazioni e brainstorming rispetto alla ricerca tradizionale. Piuttosto che essere un’enciclopedia migliore della ricerca tradizionale, è più simile ad un agente.

Naturalmente, non importa quanta torta venga estratta, l’illusione della ricerca dell’IA è ancora inquietante. Per questo motivo, alcune persone suggeriscono, per sicurezza, di utilizzare l’intelligenza artificiale generativa, di non limitarsi a guardare il riepilogo e poi controllarlo con la tradizionale ricerca su Google. Come si suol dire, la situazione cambia, ma il Grande Fratello resta il Grande Fratello.

# Benvenuto per seguire l'account pubblico WeChat ufficiale di aifaner: aifaner (ID WeChat: ifanr) Ti verranno forniti contenuti più interessanti il ​​prima possibile.

Ai Faner |. Link originale · Visualizza commenti · Sina Weibo