Безопасность использования ИИ

Программа курса

Ознакомьтесь с программой курса «Безопасность использования ИИ» от Академия Разум - academyrazum.ru

1. Модуль 1 — Как работает ИИ и где он опасен - 1 час. Почему возникают галлюцинации, почему ИИ выдумывает источники и цифры. Проверка ответов, чек-лист проверки, список задач, где ответы ИИ требуют обязательной проверки.
2. Модуль 2 — Данные: что можно и нельзя передавать ИИ - 1 час. Отличие публичной нейросети от обученного контура и корпоративной платформы. Классификация документов, требования 152-ФЗ, правила обезличивания данных перед передачей в ИИ.
3. Модуль 3 — Угрозы через ИИ: дипфейки, фишинг, манипуляции - 1 час. Дипфейки голоса и видео, генеративный фишинг, инъекции в промпт. Признаки подделок и протокол проверки подозрительных обращений от руководителя.
4. Модуль 4 — Локальный ИИ и регламент безопасного использования - 1 час. LLM в закрытом контуре, локальный ИИ-сервер. Сборка черновика регламента: разрешённые инструменты, классификация данных, зоны ответственности, действия при инциденте.

Чему вы научитесь

• Научитесь создавать и применять: llm в закрытом контуре, локальный ии сервер. сборка черновика регламента разрешённые инструменты, классификация данных, зоны ответственности, дей…
• Освоите и сможете применять: почему возникают галлюцинации, почему ии выдумывает источники и цифры. проверка ответов, чек лист проверки, список задач, где ответы ии требуют обязательной проверки.