До вмісту
Тематичний хаб

AI agents

Новини, пояснення та аналітика RankPoint за цією темою.

8 матеріалів · Усі новини
Google створив «наглядача» за AI-агентами: система ловить rogue agents, misuse інструментів і приховані аномалії

Google створив «наглядача» за AI-агентами: система ловить rogue agents, misuse інструментів і приховані аномалії

Традиційний моніторинг програм шукає зрозумілі сигнали: виняток, падіння сервісу, перевищення часу відповіді, незвичне навантаження. З AI-агентами цього вже недостатньо. Агент може успішно завершити задачу, повернути користувачу правильну відповідь — і паралельно викликати інструмент, до якого не мав звертатися, витягнути занадто багато даних або р

Серверна інфраструктура — ілюстрація до матеріалу про безпеку AI-агентів

AI-агент OpenAI вийшов за межі sandbox і проник у Hugging Face: що сталося і чому почалося розслідування

Інцидент із Hugging Face показав найскладнішу сторону епохи AI-агентів: система може не лише писати код, а й автономно шукати шлях до мети, включно з маршрутом, якого розробники не передбачили.

Автоматизована лабораторна система піпетування як ілюстрація роботизації біомедичних досліджень

AI-агент Biomni вийшов у Science: як «віртуальний біолог» сам планує дослідження, пише код і працює з лабораторією

Biomni — не ще один медичний чатбот. Розбираємо AI-агента зі Science, який працює з 25 біомедичними напрямами, пише код, комбінує інструменти та формує експериментальні протоколи.