Commenti a "Proxy: un agente AI che sa interagire con il web (quasi) come un utente"

[Zigul]

Proxy: un agente AI che sa interagire con il web (quasi) come un utente



Dopo i chatbot e le AI generative, la nuova frontiera varcata dall'intelligenza artificiale è quella degli "agenti" o "operatori", ossia applicazioni in grado di interagire autonomamente con i siti quasi come fossero utenti umani: compilano campi di testo, interpretano immagini, fanno spesa online, postano sui social, etc. sempre seguendo le istruzioni (ed eventualmente usando le credenziali) fornite dall'utente. [continua..]

Inserite di seguito i vostri commenti.

[CUB3]

Grazie per la segnalazione Zigul, non conoscevo questa applicazione delle AI.

Comunque dopo averlo letto sono un po' inquieto (non è colpa del tuo articolo, ma del potenziale delle AI!), mi fa pensare ad un futuro dove le AI generano e pubblicano contenuti (audio, video, testo) quasi in autonomia, dove realtà, grossolani errori e fake news sono talmente intrecciate da renderle indistinguibili l'una dall'altra... Ci sarà un'AI che ci potrà salvare dalla mia visione distopica?

[Zigul]

Pare inizino già a diffondersi AI addestrate a riconoscere immagini e testi prodotti da altre AI; anche se, a mio avviso, testi puramente descrittivi o immagini puramente decorative non devono essere necessariamente un prodotto di "manodopera umana", ma almeno di una supervisione umana, per evitare le cosiddette "allucinazioni" dell'AI. Sul web mi pare già si vedano testi e immagini artificiali usati in ambito divulgativo, su siti e blog; ci sarebbe il discorso delle ricadute occupazionali, ma anche quello, sempre secondo me, è da prendere con le pinze, senza allarmismi (puntuali ogni volta che la tecnologia dà uno "scossone sociale" con uno sviluppo rilevante: accadde già con l'invenzione delle macchine da lavoro e i luddisti). Diciamo che in qualche caso se è l'AI a redigere un articolo o generare un'immagine ed è l'umano a fare il "correttore di bozze", in fondo può essere una gestione ottimizzata di tempi e risorse (anche se non da tutti i punti di vista, ma in fondo la storia della tecnologia questo ci insegna); se invece manca la supervisione e l'approvazione dell'umano, chiaramente è rischioso fidarsi ciecamente dell'AI generativa, tanto quanto lo sarebbe lasciare uno stagista alle prime armi libero di pubblicare ciò che vuole, magari senza che se ne prenda almeno la responsabilità, mettendoci nome e cognome.
Il problema dell'autenticità di fonti e dei contenuti è insito nella comunicazione umana, dal bambino a cui si insegna che mentire è sbagliato (insegnamento che arriva solitamente da adulti che in realtà "sanno quando mentire"), fino ai problemi di autenticità di firme su documenti ufficiali (v. perizie calligrafiche). Qualunque tecnologia che si occupi di comunicazione presenta di conseguenza problemi di verifica, sia per possibili errori "interni" o in buona fede (espressioni ambigue che vengono fraintese), sia per compromissioni esterne (manipolazione o alterazione) o in cattiva fede (disinformazione pilotata). In questo l'AI generativa non fa eccezione e non è nulla di nuovo: per essere credibile, richiede vigilanza (umana, con o senza altre AI) e una sana dose di senso critico e diffidenza (proprio come per le mail di phishing).
Detto più in concreto: l'importante per me è avere gli strumenti cognitivi e le risorse informative per riconoscere «fake news e grossolani errori» che paventi (e che non hanno bisogno dell'AI per esistere, gli umani in questo sono già "bravi" di loro); se poi la bufala l'ha scritta un umano o un'AI, è una questione importante per la eventuale responsabilità legale che ne consegue (e l'inquadramento della responsabilità delle AI, e di chi le usa, credo sarà, se già non è, uno dei settori più fertili della giurisprudenza, direttamente proporzionale al diffondersi degli agenti AI).
In fondo, come è dall'invenzione della ruota fino all'energia atomica e al web, si tratta di cercare di imparare a "prendere il buono", ricordando che «non c'è rosa senza spine».

[CUB3]

Siamo d'accordo che non è la pistola che uccide ma la mano di chi la impugna; il problema non è la tecnologia ma come viene usata ed è proprio questo il punto: la storia insegna che, sicuramente, qualcuno la utilizzerà "male".
Siamo anche d'accordo che non sono necessarie le AI per generare articoli scadenti o fake ma il problema da cui nasce la mia preoccupazione (chiamiamola così... ) è, primo, che qualcuno utilizzerà male questa tecnologia e secondo, che una sola AI è in grado di generare e pubblicare in pochissimo tempo e a basso costo un quantità di contenuti che servirebbe un esercito di stagisti ridotti in schiavitù solo per provare a stargli dietro!
Un'altra cosa su cui siamo d'accordo è che istruzione, cultura e senso critico possono essere un valido aiuto per riconoscere e interpretare correttamente la qualità delle fonti ma sappiamo anche molto bene che una gran parte degli internauti non ne ha, altrimenti già ora non esisterebbero le teorie di complotto.

[Zigul]

Concordo, anzi: alcune delle tue preoccupazioni per il futuro credo possano già essere intese come certezze presenti; nel senso che l'uso improprio, se non dannoso, di una tecnologia (per me) va messo in conto a priori; che sia per incompetenza, per "sperimentazione" o per cattive intenzioni, ci sarà sempre qualcuno che usa male uno strumento, danneggiando sé o gli altri (come detto, per buona o cattiva fede che sia) e ci sarà sempre qualcuno non abbastanza (in)formato da essere ingannato (è il primo effetto collaterale di ogni tecnologia liberamente disponibile e, soprattutto, apparentemente facile da usare).
Non è invece altrettanto prevedibile, secondo me, quale sarà la "magnitudo" del terremoto di falsità e "malignità" diffuse tramite AI. Ricordo che quando fece scalpore Photoshop, con la sua capacità semplificata di modificare foto in modo verosimile, si diffuse in alcuni contesti il timore di non riuscire più a distinguere una foto vera da una falsa e la paura che i mass media sarebbero diventati inattendibili perché ogni evidenza fotografica sarebbe risultata dubbia e degna di scetticismo... molti anni dopo mi pare possiamo concludere che Photoshop (o suoi emuli) ha aiutato a sembrare più magri e belli nei social, ma non ha messo in crisi né l'informazione né la capacità, anche grazie alla tecnologia, di distingure una foto ritoccata da una autentica (o comunque i falsi non hanno fatto danni notevoli né destabilizzato la società).
Spesso la soluzione, per quanto non perfetta o infallibile, a una criticità basata su una nuova tecnologia è "semplicemente" (per così dire) una contro-tecnologia, per questo accennavo alle AI addestrate a individuare e valutare artefatti prodotti da altre AI. Fermo restando che la differenza la farà, come già è adesso, la "firma", ossia la credibilità di una fonte: il caro vecchio telegiornale (ma potrei sbagliarmi perché non uso la TV) non mi pare abbia diffuso troppe fake news, filmati o foto false (o almeno non ho letto nulla in merito nel web); così come siti solitamente attendibili prevedono anche controlli e fact-checking (ne va della loro reputazione). Chiaramente l'internetnauta incauto o in cerca di contro-informazione, verità alternative e "opinioni fuori dal coro", avrà sempre più da leggere e da "scoprire". La comunicazione libera è, come detto, una rosa non priva di spine (proprio come l'AI) e alcuni sviluppi tecnologici sono spesso irreversibili (come ben dimostra l'informatica), per cui è tanto facile prevedere che qualcosa verrà usato anche male, quanto è necessario cercare di restate (in)formati per evitare di esserne vittima (pur sapendo che le vittime non mancheranno).

[CUB3]

...molti anni dopo mi pare possiamo concludere che Photoshop (o suoi emuli) ha aiutato a sembrare più magri e belli nei social, ma non ha messo in crisi né l'informazione né la capacità, anche grazie alla tecnologia, di distingure una foto ritoccata da una autentica (o comunque i falsi non hanno fatto danni notevoli né destabilizzato la società).

Non sono molto d'accordo su questa affermazione, ma inutile divagare...

Proverò ad abbracciare la tua visione, indubbuamente più ottimistica della mia