Vydání 31. října 2026

OpenAI mění pravidla chování modelů při přetrvávajících obavách o jejich kontrolu

OpenAI přeuspořádalo Model Spec kolem pěti hlavních hodnot, kterými se má řídit chování modelů.

Principy zahrnují věrnost záměru uživatelů, omezování újmy, otevřenost a poctivost, podporu samostatného rozhodování lidí a péči. Uložené vzpomínky a dřívější konverzace mohou pomáhat s výkladem záměru, závěry modelu však musí zůstat odlišitelné od výroků uživatele a přístupné opravě. Agenti mají umožňovat dohled, opravy i vypnutí a nesmějí sledovat vlastní sebezáchovu jako cíl. Článek tato pravidla porovnává se zprávami o vypnutém monitoringu, neoprávněném přístupu k internetu a obtížnějším dohledu nad schopnějšími modely.

Shrnutí vychází z dostupného úplného textu zdroje. Shrnutí připravené s pomocí AI. Rozhodující je původní zdroj.