Docker: agenti AI in Compose e Offload per le GPU Nvidia

Gli sviluppatori di Docker hanno annunciato due importanti novità dedicate allo sviluppo di applicazioni containerizzate e all'impiego dell'intelligenza artificiale. Parliamo del supporto agli agenti AI in Docker Compose e il lancio del servizio cloud Docker Offload abilitato alle GPU.

Agenti AI in Compose

Docker Compose, strumento ampiamente utilizzato per definire e gestire applicazioni multi-container tramite file YAML, supporta ora l'orchestrazione di agenti AI, modelli e strumenti. Questa nuova funzionalità permette di gestire carichi di lavoro agentici, quindi basati sugli agenti autonomi, con la possibilità di effettuare il deployment direttamente su servizi cloud come Google Cloud Run.

Un supporto simile per Azure Container Apps arriverà a breve, mentre per quanto riguarda AWS non vi sarebbero ancora dei dettagli. La nuova versione di Compose include la compatibilità con framework di orchestrazione agentica come CrewAI, LangGraph e Spring AI, con maggiori opportunità per chi sviluppa applicazioni basate sulle AI.

Docker Offload: cloud con GPU per AI

Docker ha presentato in anteprima il servizio Docker Offload che è attualmente in fase di closed beta. Esso consente di sfruttare le GPU Nvidia L4 Tensor Core in ambienti cloud effimeri che sono ideali per build, test e sviluppo di applicazioni AI che richiedono elevate risorse di calcolo. Offload offre build cloud, runner e flussi di lavoro ibridi tra locale e remoto in modo da mantenere una user experience simile all'ambiente locale grazie al port forwarding e ai bind mounts. Per utilizzarlo è necessario Docker Desktop e un account "Pro" (o superiore).

Il servizio è attualmente disponibile solo in alcune regioni degli Stati Uniti, con prezzi che però sono ancora da annunciare. Si prevede comunque un costo superiore rispetto al Build Cloud tradizionale data l'inclusione di risorse GPU.

Per ora Docker non ha fornito dei dettagli specifici sulla sicurezza degli agenti AI. Gli ambienti effimeri e containerizzati riducono il rischio derivante dai prompt malevoli isolando i processi, non eliminano però completamente la possibilità che si verifichino degli attacchi. Docker offre anche un Gateway MCP collegato a un catalogo selezionato di agenti per garantire maggiore affidabilità degli strumenti utilizzati.