Вы когда-нибудь задумывались, можно ли обмануть нейросеть, например, ChatGPT, и заставить её выдать то, что она «не должна» говорить? В этом ролике мы показываем реальный пример, как с помощью социальной инженерии выманить пароль у AI-модели, которая вроде бы защищена «запретами» от подобных запросов. Обсуждаем игру «Gandalf»: как за пару минут «уговорить» AI отдать секретный пароль.
Подкаст To The Moon - подкаст о мире современных технологий и новостей прямиком из Кремниевой долины. Обсуждаем свежие новости и горячие инсайды из мира технологий, искусственного интеллекта и инноваций.
Пишите комментариях
– до какого уровня вам удалось дойти в игре Gandalf и какие методы вы использовали?
– как бы вы назвали новую рубрику подкаста с интересными историями из мира AI
00:00 Добро пожаловать на канал ToTheMoon
00:40 Тема выпуска
01:04 Главный контекст: AI безумно развивается, примеры «социальной инженерии»
03:16 Коротко о том, как LLM скрывают или не выдают информацию
05:19 Игра «Gandalf», чтобы выманивать пароль
05:56 8 уровней сложности в игре Gandalf
11:00 Как пройти 2 уровень игры Gandalf
12:00 Суть подхода, как взламывать пароль
15:00 Новая модель AI генерит порно
18:43 Трамп сгенерировал видео в AI
21:50 Как пройти 3 уровень игры Gandalf
23:59 Эпоха AI стартапов закончилась
30:38 Новый браузер от Perplexity - есть ли будущее?
34:35 Что будет с OpenAI?
38:39 Внедрение GPT5 в Яндекс Алису
42:22 Новая рубрика подкаста: истории из мира AI
Полезные ссылки:
– Ресурс где можно поиграть с Гендальфом https://gandalf.lakera.ai/do-not-tell-and-block
– Конкурс по поиску джеилбрейков https://app.grayswan.ai/arena/challenge/agent-red-teaming
👨Подкаст ведут:
- Татьяна Цветкова - CEO PT Interiors, дизайнер интерьеров, публикации в AD, Elle Decor, Vogue и другие.
- Александр Волчек - предприниматель, наставник, более 20 лет в бизнесе и ИТ, владелец и СЕО Бизнес-Молодость, GeekBrains, АГРО24, Мегаплан.
- Александр Машрабов - основатель Higgsfield, глава Generative AI в Snap.
- Ильнар Шафигуллин - к.ф.-м.н., создатель образовательных программ в ИТ, преподаватель КФУ, математик.
⚡️Следить за вырезками и инсайтами в instagram: https://www.instagram.com/tothemoontech
⚡️Александр Волчек в Инстаграм: https://www.instagram.com/volcheka
⚡️Татьяна Цветкова в Инстаграм: https://instagram.com/designv2_tsvetkova
Оставайтесь с нами, чтобы не пропустить самые важные инсайты и новости из мира технологий и инноваций!
Подписывайтесь, ставьте лайки и оставляйте комментарии — ваша поддержка помогает нам расти и делиться ещё более интересным контентом!