Kateřina Fajmanová

Co funguje, kde to končí a jak si to změřit Chování jazykového modelu jde měnit nejen promptem, ale i přímým zásahem do jeho vnitřních výpočtů - a my to zkoušíme na reálném asistentovi v produkci. Ukážu na videu, jak to vypadá, když to funguje, i co se stane, když se to přežene: do určité míry model poslechne a nic se nepokazí, za ní se začne rozpadat - přičemž na standardním testu schopností může pořád vypadat v pořádku, protože test měří něco jiného, než co se rozbilo. Je to experiment, ne hotová odpověď: ukážu i to, co se nepovedlo. Všechny nástroje z přednášky jsou open source. Po přednášce bude posluchač vědět: že chování modelu jde řídit i zevnitř, že to do určité dávky funguje spolehlivě a pak se model začne rozpadat - a že si tu hranici může na svém modelu sám změřit open-source nástroji za pár minut.