základní pojmy
1 min čtení
Sladění (Alignment)
Alignment
Proces zajištění, aby AI jednala v souladu s lidskými hodnotami a záměry
Vysvětlení
Alignment (sladění) je snaha zajistit, aby AI systémy jednaly způsobem, který je v souladu s lidskými hodnotami, záměry a očekáváními. Zahrnuje techniky jako RLHF pro trénování modelů být užitečné, pravdivé a neškodné. Je to klíčová výzva pro bezpečný vývoj AI.
Příklady
["Trénování ChatGPT odmítat škodlivé požadavky","Učení AI poskytovat vyvážené a objektivní odpovědi"]
Více o Sladění (Alignment)
Najděte nástroje, články a prompty související s tímto pojmem pro praktické využití.
Související pojmy
Agent
AI systém schopný autonomně provádět úkoly a interagovat s prostředím
Asistent (Assistant)
AI systém navržený pro pomoc uživatelům s různými úkoly
Benchmark
Standardizovaný test pro měření výkonu AI modelů
Dataset
Strukturovaná sbírka dat používaná pro trénování nebo testování AI
Doladění (Fine-tuning)
Proces dodatečného trénování AI modelu na specifických datech pro konkrétní úlohy
Prozkoumejte AI slovník
Objevte další základní pojmy pojmy a rozšiřte své znalosti umělé inteligence.