lib1296-IA-AI

l'80% del codice che fa girare una delle AI più potenti al mondo non è stato scritto da un essere umano è stato scritto dall'intelligenza artificiale stessa antropic la società che ha costruito Cloud uno degli strumenti AI più usati al mondo sicuramente lo conoscete ha appena pubblicato un documento tecnico che normalmente nessuna azienda rende pubblico se ne sta già parlando tanto in questi giorni ma in queste pagine c'è qualcosa che quasi nessuno ha notato qualcosa che non riguarda solo i programmatori non riguarda solo la Silicon Valley non riguarda solo chi lavora nel Tech riguarda te te lo spiego partendo dai numeri perché questi numeri sono diversi dagli altri sono dati interni roba che succede già adesso dentro una delle aziende più avanzate del mondo primo dato più dell'80% del codice lo scrive Clod non gli ingegneri le AI a inizio del 2005 era una percentuale a una singola cifra secondo gli ingegneri di Antropic producono oggi otto volte più linee di codice al giorno rispetto al 2024 otto volte in più in un anno terzo dato in un test specifico di ottimizzazione interno il loro modello più avanzato ha raggiunto una velocizzazione di 52 volte rispetto al codice di partenza un ricercatore umano esperto nello stesso test arriva a circa quattro volte prima di andare avanti facciamo la tara questi numeri vengono da Antropic stessa una società che ha tutto l'interesse naturalmente a sembrare la più avanzata del mondo e anche eh un messaggio di marketing naturalmente quindi maneggiamo questi dati con cura ma anche se facessimo la metà anche se prendessimo il 40 anziché l'80 il 4x anziché 8 il 26 anziché 52 sarebbe ancora una trasformazione senza precedenti nella storia umana in un solo anno quindi non è la grandezza esatta dei numeri che conta è che cosa ci dicono questi numeri è la direzione e la velocità del cambiamento ora qui parliamo di cose su cose quindi se non sei ancora iscritto al canale fallo adesso e così proseguiamo so già un pochino forse che cosa stai pensando ok vabbè io non scrivo codice faccio tutt'altro perché dovrei interessarmi roba da nerd mercati lontani è una buona domanda ed è esattamente la trappola in cui cadono tutti perché perché non bisogna guardare questo fatto come un qualcosa di legato esclusivamente al codice e ai programmatori dobbiamo invece guardarlo come una attività risolvere problemi complessi seguendo delle regole questo è il codice no e allora se Leiai ha appena conquistato il regno delle regole più difficili e tecniche che esistano cioè la programmazione quanto pensi che resterà fuori dal tuo ufficio dalle tue attività pensa al tuo lavoro non al codice ai processi che stanno dietro al tuo lavoro ed al mio ovviamente qual è la parte del tuo lavoro che potresti descrivere preparare un report scrivere una bozza analizzare dei dati rispondere a una email oppure gestire una pratica compilare un documento produrre delle immagini elaborare dei numeri se queste o altre parti analoghe esistono nel tuo lavoro e in quasi in tutti i lavori esistono allora quello che sta succedendo dentro Antropic ti riguarda direttamente ti riguarda e come non tra 10 anni adesso cioè tra 10 anni riguarderà anche gli idraulici ma quello è un altro discorso e allora la domanda non è l'Etrerà nel mio settore la domanda è a che velocità sta già succedendo e chi lo sta già vivendo oggi non domani poi però nell'articolo c'è qualcosa che va ancora più in profondità qualcosa che devo dirvi mi ha un pochino turbato almeno per come la vedo io se lei AI migliora così velocemente se già oggi scrive il codice che la farà diventare più brava domani a che punto esattamente diventerà capace di progettare la versione successiva di se stessa se ne parla nell'articolo questa cosa si chiama miglioramento ricorsivo ed è l'idea più importante e più sottovalutata di tutta la conversazione che c'è sul mondo dell'intelligenza artificiale e che ci porta a una riflessione piuttosto scioccante di cui vi parlo tra poco il ciclo normale fino a oggi dovrebbe essere questo no gli umani progettano degli esperimenti addestrano un modello valutano i risultati li migliorano ovviamente e ottengono un modello migliore e poi si ricomincia tutto da capo no il miglioramento ricorsivo significa che quel ciclo lo fa l'AI da sola il modello A migliora il modello B il modello B migliora il modello C e gli umani escono progressivamente dal loop a un certo punto se l'intelligenza diventa super umana ed in parte lo è già l'umano non ha più la capacità di capire né di valutare come mai è così performante e l'umano allora esce dall'equazione bene Antropic dice che siamo già a metà di questa strada l'ei gestisce già l'esecuzione gli esperimenti il codice l'ottimizzazione quello che manca certamente è ancora la parte strategica cioè decidere quali problemi vale la pena risolvere quale direzione di ricerca è più promettente quello che i ricercatori chiamano research taste un giudizio che i modelli attuali non hanno ancora in modo affidabile non ancora e qui la cosa più inquietante no è che gli ingegneri di Antropichi iniziano a sentirsi un po' persi nell'articolo alcuni di loro confessano in modo anonimo ci sono giorni in cui tutto funziona così bene da solo che non ho più idea di cosa sto facendo realmente ora ricordatevi di fare la tara del marketing a queste parole però poi tenete il succo non buttate via tutto tenete la sensazione che vi danno queste parole funziona tutto così bene che non so bene che cosa sto facendo io come ingegnere beh sono parole che non ha detto un operaio sostituito da un robot in fabbrica cioè qualcosa che in qualche modo abbiamo già acquisito nella nostra esperienza no no l'ha detta un ingegnere d'elite tra i più qualificati al mondo dentro l'azienda che quella tecnologia la sta costruendo se succede a loro già oggi già adesso che cosa significa per il resto di noi e qui qualcuno solitamente dice "Vabbè ma comunque adesso noi valutiamo poi se le cose vanno storte si tratta di spegnere" no e la risposta tecnica è sì si può spegnere si può spegnere un server si può spegnere anche un data center peccato che non serve il problema non è tecnico è un problema sistemico primo problema la dipendenza mano mano che questi sistemi entrano proprio nell'infrastruttura nelle banche negli ospedali nella logistica nella produzione nei trasporti spegnerli diventa come togliere la corrente a un ospedale sarebbe come dire oggi spegniamo internet spegniamo tutto internet ecco il costo di quella scelta spegnere cresce sta crescendo ogni giorno sta lì il problema gigantesco secondo problema la velocità se un sistema migliora se stesso in loop ovviamente la velocità della luce la finestra in cui gli esseri umani possono ancora intervenire significativamente potrebbe chiudersi prima che qualcuno se ne accorga non è che non puoi spegnerlo è che potresti non accorgerti in tempo che dovresti farlo ma poi c'è una cosa nell'articolo che va ancora più in profondità molto più in profondità e non riguarda solo la tecnologia riguarda la politica riguarda il potere riguarda te come cittadino antropic scrive chiaramente senza giri di parole e questo è un plauso che va fatto a loro che vorrebbero una pausa pensate una pausa coordinata nello sviluppo che sarebbe positiva perché riconoscono che ci sono dei rischi ciho detto continuano lo stesso perché la loro risposta eh che danno logicamente che è anche coerente dal loro punto di vista se si fermano loro avanzano Open AI Google i laboratori cinesi il mondo si trova con la stessa tecnologia in mano ma non c'è chi pensa un po' di più alla sicurezza cioè Antropic quindi è meglio che ci siano loro i più attenti a guidare in qualche modo lo sviluppo questa è la loro tesi adropic va riconosciuto questo atteggiamento perché sono anni che vanno avanti con questo con questo tipo di valori è un argomento che ha una sua logica ma anche un problema che mi sembra piuttosto grande è lo stesso argomento che userebbe qualsiasi attore in qualsiasi corsa agli armamenti per non fermarsi mai è strutturalmente impossibile da contestare questo punto di vista però diventa una giustificazione perenne antropic ci comunica tutto questo con grande trasparenza e va riconosciuto pubblica articoli come questo di cui vi ho parlato organizza convegni invita i policy maker formalmente sono molto aperti però poi nel mondo c'è una differenza enorme che è quella tra informare e dar voce in capitolo no cioè informare significa ti dico che cosa stiamo facendo la voce in capitolo significa tu puoi decidere se possiamo farlo tu intendo tu società civile ovviamente legislatori cittadini regole eccetera loro stanno facendo giustamente la prima cosa sono un'azienda non sono una ONG la seconda cosa però purtroppo non esiste pensa a qualsiasi altra tecnologia con impatto globale paragonabile l'energia nucleare dopo ISIMA ci fu un dibattito enorme trattati internazionali agenzie di controllo voto nei parlamenti pensate agli OGM referendumi in alcuni paesi le moratorie l'etichettatura obbligatoria e ancora i farmaci i test le approvazioni le regole il consenso scientifico pubblico per lei invece che secondo le stesse parole di chi la sviluppa potrebbe alterare il controllo umano sul proprio futuro non c'è stato nessun voto nessun referendum nessuna convenzione internazionale vincolante nessuna regola e nessuna legislazione questo ovviamente non succede perché qualcuno abbia scelto di escluderci ma perché il sistema di governance globale non era e non è attrezzato per intercettare qualcosa e per capire qualcosa che si muove così velocemente la trappola perfetta in cui rischiamo di cadere tutti tutti insieme è proprio questa anche chi sviluppa queste tecnologie lo sa lo scrive lo dice pubblicamente ma è costretto a continuare lo stesso perché la tesi è che il singolo attore che si ferma adesso non ferma il mondo però perde la sua corsa la perde torniamo allora a noi al nostro lavoro alla nostra vita quella frase dell'ingegnere di Antropic non ho più ben idea di che cosa sto facendo non è la storia di un settore super tecnico lontano da noi è la storia di quello che sta per succedere a velocità diverse in ogni ambito professionale non di colpo non in modo drammatico in modo silenzioso e per questo forse persino un pochino più così un po' inquietante no lei non cancella il tuo lavoro dall'oggi al domani però entra dentro l'abbiamo già detto in un altro video ne prende dei pezzi uno alla volta quelli più ripetibili più prevedibili e più automatizzabili e allora forse la domanda che rimane è quella che nessuna politica nessun regolamento nessuna azienda sta affrontando davvero ed è quella un po' che mi pongo io no non è soltanto economica in un mondo dove le macchine fanno sempre meglio una parte crescente di quello che facevamo noi no e dove queste decisioni vengono prese da pochi no senza chiedere niente a nessuno che cosa significa poi ancora avere un ruolo una voce un futuro che in qualche modo possiamo dire di avere scelto io non ho una non ho una risposta e diffido da chi ce l'ha già pronta però credo che farsi questo tipo di domande sia già qualcosa no se questo tipo di domande ti interessano da oggi qui sotto trovi anche un pulsantino che ti consente di diventare un supporter un producer diciamo così del canale stiamo costruendo un po' uno spazio per chi vuole capire davvero e non soltanto consumare e ti consente in qualche modo di partecipare in maniera attiva alla crescita di questo progetto ci vediamo la settimana prossima