Responsible Generative AI Toolkit
Strumenti e linee guida per progettare, sviluppare e valutare modelli di IA aperti in modo responsabile.
Progettazione di applicazioni responsabili
Definisci regole per il comportamento del modello, crea un'applicazione sicura e responsabile e mantieni una comunicazione trasparente con gli utenti.
Allineamento alla sicurezza
Scopri tecniche di debug dei prompt e indicazioni per la messa a punto fine e l'RLHF per allineare i modelli di IA alle norme di sicurezza.
Valutazione del modello
Trova indicazioni e dati per condurre una valutazione solida del modello per sicurezza, equità e attendibilità con il comparatore LLM.
di output
Esegui il deployment di classificatori di sicurezza utilizzando soluzioni standard o creane uno tuo con tutorial passo passo.
Progettare un approccio responsabile
Identifica in modo proattivo i potenziali rischi della tua applicazione e definisci un approccio a livello di sistema per creare applicazioni sicure e responsabili per gli utenti.
Inizia
Definire i criteri a livello di sistema
Determina il tipo di contenuti che la tua applicazione deve e non deve generare.
Progettazione per la sicurezza
Definisci il tuo approccio generale per implementare le tecniche di mitigazione dei rischi, tenendo conto dei compromessi tecnici e aziendali.
Sii trasparente
Comunica il tuo approccio con elementi come le schede dei modelli.
Sistemi di IA sicura
Prendi in considerazione i rischi per la sicurezza specifici dell'IA e i metodi di correzione evidenziati nel Secure AI Framework (SAIF).
Allinea il modello
Allinea il modello alle tue norme di sicurezza specifiche utilizzando tecniche di impostazione e ottimizzazione.