Curs interactiv • AI Safety

Înțelege AI.
Controlează riscul.

Un curs practic despre alignment, agenți, evaluări, control, interpretabilitate și guvernanță. Conținutul separă explicit dovezile actuale de scenariile ipotetice.

Parcursul tău

Începe cursul personalizat

Declară numele și prenumele la intrarea în curs. Progresul va fi salvat și vei putea obține certificatul final.

Începe cursul
Structura cursului

Patru module, un parcurs coerent

Cursul trece de la bazele tehnice la riscuri, control și guvernanță. Fiecare modul are propria identitate vizuală și diagramă explicativă.

1. Fundamente

Cum funcționează AI, capabilitate vs. intenție, alignment și specification gaming.

2. Riscuri și comportamente

Reward hacking, obiective greșite, corrigibility, scheming și agenți autonomi.

3. Control și verificare

Autonomie, multi-agent, interpretabilitate, evals și red teaming.

4. Guvernanță și viitor

AI Control, misuse, AGI, guvernanță și scenarii de viitor.

Timeline

Cum a evoluat AI Safety

2010sAlignment, robustness și control devin teme tot mai clar formulate în cercetarea modernă.
2020–2022RLHF și red teaming intră în fluxurile de dezvoltare ale modelelor conversaționale.
2023–2024Frontier model evals, system cards și evaluările de risc capătă o pondere mai mare.
2025+Agenții, monitorizarea comportamentului, controlul și guvernanța sistemelor foarte capabile devin teme centrale.