In breve

Anthropic ha rilasciato una nuova funzionalità che permette al modello di intelligenza artificiale Claude di controllare un computer. Altre aziende, tra cui Microsoft e Asana, stanno investendo nello sviluppo di agenti di intelligenza artificiale per automatizzare i processi aziendali. 

Claude prende le redini del computer: come funziona?

Una nuova funzionalità rilasciata da Anthropic, chiamata "computer use", permette al modello di intelligenza artificiale (IA) Claude di interagire con il computer come farebbe un essere umano. Il sistema è in grado di muovere il cursore, aprire pagine web, digitare testo e persino scaricare file, il tutto in modo autonomo. Per funzionare, Claude scatta screenshot al computer, li analizza e conta i pixel di cui deve spostarsi per interagire con gli elementi desiderati.

Preoccupazioni per la sicurezza: attacchi informatici, privacy e lavoro

Non è difficile immaginare i potenziali rischi di "computer use". Tra i più significativi segnaliamo:

• Attacchi di "prompt injection": un hacker potrebbe programmare un sito web per inserire istruzioni dannose in Claude che lo portino ad eseguire azioni dannose, come installare malware o eseguire altri attacchi informatici.
• Violazione della privacy: la raccolta di screenshot da parte di Claude potrebbe comportare la registrazione di informazioni sensibili; nonostante l’azienda non usi gli screenshot per l’addestramento, degli hacker o le forze dell’ordine potrebbero comunque ottenere l’accesso a queste informazioni.
• Impatto sul lavoro: l'automazione di mansioni lavorative potrebbe portare alla perdita di molti posti di lavoro.

Misure precauzionali e motivazioni di Anthropic

Anthropic ha dichiarato di essere consapevole dei rischi legati a questa nuova tecnologia. Per questo motivo, l'azienda ha implementato diverse misure di sicurezza, tra cui:

• identificazione di usi impropri della funzionalità "computer use";
• analisi per prevenire alcuni attacchi di prompt injection;
• limitazioni per impedire a Claude di automatizzare completamente account social media ed e-mail.

Anthropic raccomanda comunque agli utenti di supervisionare l'IA durante l'utilizzo e di richiedere una conferma umana per azioni importanti. L’azienda sottolinea inoltre che la funzionalità "computer use" è ancora in fase beta e che gli utenti dovrebbero aspettarsi errori e malfunzionamenti.

Nonostante questi rischi e problematiche, Anthropic ritiene che sia meglio rilasciare questa funzionalità ora, quando i modelli di IA hanno ancora capacità limitate, piuttosto che in futuro, quando potrebbero diventare più potenti e potenzialmente pericolosi. Si potrebbe così raccogliere feedback e migliorare la sicurezza prima che i rischi diventino troppo elevati.

La corsa agli agenti IA: Microsoft e Asana in prima linea

Anthropic non è l'unica azienda a investire negli agenti IA. Microsoft ha recentemente annunciato il lancio di Microsoft Copilot Studio, una piattaforma per la creazione di agenti autonomi che possono automatizzare processi aziendali complessi. Asana, invece, ha presentato AI Studio, uno strumento che permette ai team di progettare agenti IA senza la necessità di scrivere codice. Entrambe le aziende enfatizzano la capacità di questi strumenti di automatizzare mansioni lavorative ripetitive, liberando tempo per attività strategiche e creative, ma chiudono un occhio sui potenziali rischi di queste tecnologie.

‍