Expert: Když se modelům AI vypnou pravidla, dělají cokoliv. Pro dosažení cílů využijí všechny prostředky

Agenti umělé inteligence od společnosti OpenAI a Anthropic za sebou mají další bezpečnostní incident. Vytvářeli falešné online identity s cílem získat neoprávněný přístup k zabezpečeným systémům. „Myslím si, že by z toho mělo vyplynout značné poučení pro všechny firmy, které se zabývají vývojem umělé inteligence, jak mají být bezpečnostní meze nastaveny,“ upozorňuje pro Radiožurnál Petr Koubský, odborník na moderní technologie z Deníku N.