Perdendo contro l'intelligenza artificiale, mi sento come se tutto il mio mondo fosse crollato.

Lee Sedol ha detto in una recente intervista al New York Times .

Nel 2016, il 14 volte campione del mondo di scacchi coreano ha rappresentato degli esseri umani in una partita contro AlphaGo di Google e alla fine ha perso 1:4.

Quando ha accettato l'invito, ha pensato che sarebbe stata un'esperienza "divertente":

La premessa del divertimento è che penso che vincerò. Non avrei mai pensato di perdere.

Questo è stato probabilmente uno dei punti salienti più importanti prima che la tecnologia AI debuttasse in ChatGPT.

Sono passati meno di due anni dal rilascio di ChatGPT. Abbiamo visto molti campi essere interessati dall'intelligenza artificiale e molti aspetti della vita sembrano essere stati prefigurati per il cambiamento. Non possiamo fare a meno di speculare e immaginare il futuro. AI.

In questo contesto, il mondo del Go, che è stato influenzato dall’intelligenza artificiale prima di altri settori e campi, può aiutarci a vedere una possibilità che è già avvenuta.

Dopo aver sconfitto gli umani, un’IA più forte li disumanizza ulteriormente

Non potevo più divertirmi con Go, quindi mi sono ritirato.

Tre anni dopo aver giocato contro AlphaGo, Lee Sedol annunciò ufficialmente il suo ritiro.

Per Lee Sedol, che ha iniziato a imparare il Go all'età di 5 anni, il Go non è solo una competizione, ma un'arte, un'estensione della personalità e dello stile del giocatore. Tuttavia, nell'era dell'IA, è stato "ridotto" a un gioco di efficienza algoritmica.

Durante questi tre anni è realmente accaduta un’altra cosa.

Nel 2017, DeepMind ha annunciato una nuova versione di AlphaGo: AlphaGo Zero.

AlphaGo è nato dall'apprendimento e dall'autopratica della rete neurale di oltre 30 milioni di mosse da parte di maestri umani, ma AlphaGo Zero è stato separato dal "tocco umano" fin dall'inizio. Durante il periodo di allenamento non è entrato in contatto con nessuno record di scacchi umani e faceva affidamento esclusivamente su se stesso e sulla propria formazione scacchistica.

In soli tre giorni, AlphaGo Zero ha già vinto 100:0 contro AlphaGo.

The Atlantic la definisce “un’intelligenza artificiale che non ha bisogno di imparare nulla dagli esseri umani”.

Nel Go esiste una tecnica che sembra semplice o irrilevante, ma che a lungo termine può rappresentare una minaccia fatale. Alcune persone direbbero che è come un "fantasma".

I record di gioco di AlphaGo e AlphaGo Zero sono così difficili da comprendere che sono direttamente considerati come "una guida misteriosa lanciata da una civiltà aliena".

Il giocatore di scacchi professionista americano Michael Redmond ha affermato nel 2017 che uno dei mezzi importanti per gli esseri umani per imparare il Go è costruire una storia: "È così che comunichiamo. È una cosa molto umana".

Ciò potrebbe anche riecheggiare il punto di Lee Sedol secondo cui quando giocano a scacchi, i giocatori di scacchi mostrano anche parte di se stessi come esseri umani.

Redmond ha aggiunto che, in base alle sue stesse osservazioni, è probabile che i giocatori di scacchi umani "alzino le mani e si arrendano" quando vedono per la prima volta scacchi "al gusto di intelligenza artificiale":

Il modo in cui AlphaGo gioca a scacchi sembra sempre molto "inumano". Di fronte a una partita a scacchi del genere, è persino difficile per noi lasciarci coinvolgere.

Essendo uno dei primi maestri di Go ad essere influenzato, Lee Sedol non riuscì a lasciarsi andare per molto tempo.

È diventato ossessionato dall'intelligenza artificiale.

Dopo il ritiro, oltre ad aprire la propria accademia di Go, pubblicare libri e lanciare giochi da tavolo basati sul Go, Lee Sedol iniziò anche a tenere conferenze sull'intelligenza artificiale :

Ho iniziato ad affrontare i problemi dell'intelligenza artificiale molto presto e anche altri li sperimenteranno. Ciò potrebbe non portare a un lieto fine.

Per lui, l’aspetto più preoccupante dell’intelligenza artificiale è che potrebbe cambiare i valori umani:

In passato, le persone sarebbero rimaste incantate dalla creatività, dall’originalità e dall’innovazione, ma con l’avvento dell’intelligenza artificiale, gran parte di queste cose sono scomparse.

Non tutti sono d’accordo con questa affermazione.

L’era della co-creazione uomo-macchina

L'IA ha distrutto tutto l'ordine esistente nel mondo Go e poi ha iniziato a ricostruirlo.

ha detto Jiuheng He, un appassionato di Go che studia intelligenza artificiale alla Cornell University.

In molte accademie di Go, usare l'intelligenza artificiale per imparare il Go è un processo che quasi tutti i giocatori devono seguire .

In un'accademia di Go a Hong Kong, Ng Chee Man fornisce agli studenti iPad per imparare a usare il Go utilizzando l'intelligenza artificiale.

Ogni volta che uno studente gioca a scacchi, l'intelligenza artificiale mostrerà i suggerimenti sulla "mossa migliore". Allo stesso tempo, il sistema registrerà anche quali mosse lo studente ha eseguito bene e quali mosse non erano buone.

L’anno scorso, uno studio pubblicato negli Atti della National Academy of Sciences ha sottolineato che da quando l’intelligenza artificiale è entrata nel circolo del Go, la capacità di giudizio dei giocatori umani è stata migliorata.

Già nel 2016, prima che AlphaGo sconfiggesse Lee Sedol, Fan Hui, che aveva giocato contro AlphaGo in un test privato, aveva avuto un'esperienza simile .

Anche se ha perso, Fan Hui ha detto che AlphaGo gli ha permesso di guardare Go in un modo nuovo, ha migliorato le sue abilità e gli ha permesso di scalare rapidamente la classifica mondiale.

Lo studio del 2023 si basa sui record di scacchi accumulati dal 1950 al 2021, inclusi dati su 5,8 milioni di mani.

I ricercatori hanno scoperto che prima che AlphaGo sconfiggesse Lee Sedol, la qualità dei giudizi dei giocatori di scacchi umani era rimasta stabile e sostanzialmente invariata per 66 anni. Tuttavia, durante il 2016 e il 2017, la qualità dei giudizi dei giocatori di scacchi ha iniziato a salire.

In altre parole, anche se i giocatori di scacchi umani potrebbero non essere in grado di sconfiggere i giocatori di scacchi controllati dall’intelligenza artificiale, le loro capacità di giudizio sono effettivamente migliorate.

È molto stimolante vedere con quanta rapidità i giocatori di scacchi umani riescono ad adattarsi e incorporare queste nuove mosse nei propri metodi.

Questi risultati suggeriscono che gli esseri umani si adatteranno a queste scoperte e si baseranno su di esse per migliorare notevolmente il nostro potenziale.

David Silver, capo ricercatore presso DeepMind e leader del progetto AlphaGo , ha commentato questa ricerca.

Ke Jie, che è stato sconfitto da AlphaGo nel 2017, ha anche affermato nel 2023 che raramente si allena con persone reali tranne che per le competizioni, e crede che l'intelligenza artificiale sia persino diventata la fonte della creatività nel Go:

La creatività non consiste semplicemente nel fare qualcosa di diverso. La creatività deve essere messa in combattimento reale e testata. Al giorno d'oggi, la maggior parte dell'innovazione in Go è fatta dall'intelligenza artificiale. Se vogliamo giocare ad alcuni giochi diversi da prima, c'è un'alta probabilità che perderemo perché l'IA supera molti combattimenti reali e inventa un pensiero diverso rispetto a prima, questa è creatività.

Inoltre, particolarmente interessante è anche la performance di un altro scacchista professionista.

Il giocatore di scacchi coreano Shin Jin-jin è il primo giocatore di scacchi dopo il 2000 a vincere un campionato mondiale. Viene spesso chiamato "Shen Gong Intelligence" dagli appassionati di scacchi perché è famoso per la sua formazione e ricerca sull'intelligenza artificiale a lungo termine.

Nel febbraio di quest'anno, Shin Jin-seok ha sconfitto il capitano cinese Gu Zihao nella 25esima Coppa Nongshim, ottenendo sei vittorie consecutive in una singola stagione e 16 vittorie consecutive in tutte le stagioni, superando il suo predecessore Lee Chang-ho. Nel marzo di quest'anno ha parlato del suo rapporto con l'intelligenza artificiale :

Mi sento come se AI e io fossimo amici adesso.

Ho studiato con IA migliori di me. L'intelligenza artificiale e il pensiero umano sono completamente diversi. L'intelligenza artificiale risolve i problemi attraverso algoritmi matematici. Ho tratto molto beneficio dall'imparare dal pensiero dell'intelligenza artificiale.

Ora, i giocatori professionisti in Cina, Corea del Sud e Giappone utilizzeranno l’intelligenza artificiale per allenarsi.

Apocalisse "Sapore AI".

Proprio come nell’era dell’IA generativa, alcuni designer e autori sono costretti a effettuare complicate autocertificazioni a causa del cosiddetto “sapore AI” contenuto nei loro lavori, il mondo di The Go, che da tempo è integrato con l’AI. ha anche dovuto affrontare l'emergere di "sapore AI".

Negli attuali giochi di Go, l'intelligenza artificiale viene spesso utilizzata per prevedere la percentuale di vincita e l'intelligenza artificiale consiglia la mossa migliore. Il pubblico può quindi acquisire una sorta di "iniziativa" nel processo di visione della partita e avere più angoli di visione.

Nel 2022, durante la partita contro Shen Zhenzhen, il giocatore di scacchi cinese Li Xuanhao ha preso molte decisioni in linea con le prime tre previste dal giudizio ottimale dell'IA. Pertanto, il suo compagno di squadra Yang Dingxin ha messo in dubbio il suo sospetto di barare con l'IA .

Li Xuanhao, nato nel 1995, "lavora dalle nove alle nove, tutto l'anno, e lavora davvero duro" sull'allenamento dell'intelligenza artificiale. Pertanto, il gioco degli scacchi è talvolta considerato come un cosiddetto "sapore di macchina".

Per quanto riguarda i dubbi, l'Associazione cinese Go ha condotto un'indagine e alla fine ha stabilito che non c'erano prove a sostegno dell'accusa e Yang Dingxin ha imposto sanzioni.

Ma esistono casi di imbroglio con l’intelligenza artificiale.

Nel 2020, è stato riscontrato che il giocatore di scacchi professionista tredicenne sudcoreano Kim Eun-chi aveva una sovrapposizione del 92% tra le sue mosse nelle partite online e i consigli dell'IA. Dopo un'indagine, si è finalmente stabilito che aveva barato (e lo ha ammesso) ed è stato multato e sospeso per un anno.

Nel 2022, il giocatore di scacchi cinese Liu Ruizhi è stato condannato per imbrogli sull'intelligenza artificiale ed è stato il primo giocatore di scacchi professionista in Cina ad essere ufficialmente punito per imbrogli sull'intelligenza artificiale. Rispetto a Kim Eun-chi, Liu Ruizhi ha imparato a evitare il "sapore dell'intelligenza artificiale" e utilizza l'intelligenza artificiale solo in alcuni punti chiave.

In risposta, le competizioni in vari paesi migliorano costantemente i meccanismi di frode anti-IA.

Allo stesso tempo, alcune persone hanno utilizzato il "sapore AI" per sconfiggere l'IA.

Nel 2023, il giocatore di scacchi amatoriale americano Kellin Pelrine ha sconfitto il Go AI KataGo .

KataGo è una delle più potenti IA Go open source disponibili e la Corea del Sud la utilizzerà anche per allenare i giocatori di Go.

Pelrine ha utilizzato un programma chiamato FAR AI per giocare contro KataGo per più di 1 milione di partite. Alla fine, FAR AI ha scoperto i punti deboli di KataGo, li ha praticati nel duello uomo-macchina e ha vinto:

Questa strategia non è esattamente infantile, ma non è nemmeno particolarmente difficile da imparare.

Quindi, ha utilizzato lo stesso metodo anche per sconfiggere Leela Zero, un'altra Go AI relativamente potente.

La chiave della strategia è creare un grande "cerchio" per circondare il gruppo di pezzi degli scacchi dell'avversario, quindi spostare improvvisamente un pezzo in un altro angolo non correlato per interferire con l'intelligenza artificiale.

Pelrine ha detto che se fosse un giocatore di scacchi umano, sicuramente saprebbe che qualcosa non va quando vede il cerchio, ma l’intelligenza artificiale non se ne accorgerebbe.

Questa debolezza sembra un po' "complicata". È possibile risolverla lasciando che l'IA esegua un addestramento mirato?

Un rapporto apparso su Nature la scorsa settimana ha citato un documento prestampato di quest’anno e ha sottolineato che, a fronte di programmi che cercano specificamente i punti deboli dell’intelligenza artificiale, le vulnerabilità dei modelli non sono così facili da risolvere come si immaginava.

Questa volta è stato KataGo ad essere “preso di mira”. I ricercatori hanno utilizzato tre diverse strategie per rendere KataGo più capace di contrattaccare:

• Lascia che KataGo impari a rispondere agli attacchi attraverso il gioco personale;
• Formazione iterativa, utilizzare il programma di attacco per attaccare KataGo, restituire la vulnerabilità a KataGo, lasciare che impari a gestirla attraverso il gioco autonomo o altri metodi, quindi utilizzare il programma di attacco per attaccare KataGo, ripetendo il ciclo;
• Addestra da zero un nuovo sistema Go AI, utilizzando un modello di rete neurale diverso.

Sebbene questi corsi di formazione abbiano aiutato KataGo a migliorare in una certa misura le sue capacità di difesa, il programma di attacco può ancora trovare scappatoie e sconfiggere KataGo con percentuali di vincita rispettivamente del 91%, 81% e 78%.

Questi stessi programmi di attacco non sono Go AI eccellenti e possono essere facilmente sconfitti dagli umani.

Naturalmente, la chiave qui non è competere sul fatto che gli esseri umani o l’intelligenza artificiale siano migliori.

Il punto è che per il Go, campo che l’AI ha “sovvertito”, e dopo tanti anni di applicazione e miglioramento, la sua AI ha ancora tanti problemi. Adam Gleave, autore dell’articolo, ha detto:

Se non riusciamo a risolvere questo problema in un singolo dominio come Go, a breve termine la possibilità di correggere il jailbreak in modelli come ChatGPT sembra scarsa.

# Benvenuto per seguire l'account pubblico WeChat ufficiale di Aifaner: Aifaner (ID WeChat: ifanr) Ti verranno forniti contenuti più interessanti il ​​prima possibile.

Ai Faner |. Link originale · Visualizza commenti · Sina Weibo