Система распределённых очередей Apache Kafka для аналитиков и разработчиков
с практикой
старт в любой момент
70% практики
15 часов теории
Проект для портфолио
Усложненные задания
дополнительные задания со звёздочкой
Свидетельство
при выполнении от 80% практических заданий и проекта
35 часов практики
Разработчики
Для кого курс
Главная цель — понять концепцию и архитектуру взаимодействия с Kafka. На основе этой базы уже гораздо проще развиваться и взаимодействовать с командой Kafka
Аналитики
Инженеры данных и инженеры DevOps
В результате курса сможете:
Поймёте основы работы с Kafka и принципы построения архитектуры и бизнес-процессов
Научитесь решать проблемы с системами, требующими отправки/получения большого количества сообщений из разнородных систем
Подготовитесь к вопросам базовых собеседований на уровень пользователя Kafka
Сможете эффективно выстраивать архитектуру на основе асинхронного взаимодействия через Kafka
Вы поймёте, почему кластер Kafka из трёх нод в одном центре обработки данных — это не отказоустойчивое решение.
Вы сможете отлаживать продюсеры и консьюмеры для Kafka, написанные практически на любом языке программирования.
доступа
года
2
практики
часов
40
теории
часов
тем
9
10
в программе
На курсе:
Итоговый проект
В качестве итогового проекта вы разработаете систему, включающую все инструменты работы с Kafka, найдёте узкие места и примените лучшие практики для оптимизации. Знаний, полученных в ходе разработки итогового задания, будет достаточно, чтобы внедрить Кафку в ваши рабочие проекты.
Бизнес-кейсы, которые будем решать
Каждому продюсеру—по консьюмеру!
Проблема #1. Много команд используют Kafka, каждая команда, не должна читать чужие топики. Нужен механизм управления доступом команд и иметь карту сервисов.
Проблема #4. Несколько брокеров Kafka и других сервисов (schema-registry, AKHQ, rest). Нужно производить работы с брокерами без влияния на пользователей. Желательно перевести Kafka в режим «самообслуживания».
Проблема #2. Критические данные с требованиями к обработке ровно один раз (exactly‑once processing). Довольно большие по размеру сервисы с большими сообщениями. Необходимо валидировать схемы, потому что сообщения часто меняются. Kafka одна и используется многими сервисами для обмена.
Проблема #3. Большая нагрузка (40−100 тысяч запросов в секунду, RPS). Потери данных критичны, но гарантия «ровно один раз» (exactly‑once) не требуется: допустим некоторый процент потерянных или повторно обработанных сообщений. Много клиентских кластеров с выделенной инфраструктурой под одного клиента (single‑tenant), поддерживается аналитика в реальном времени (Real Time) и OLAP‑аналитика.
Финтех
Репликация таблиц из СУБД MySQL в Oracle
Сайт оператора связи с возможностью онлайн-продаж услуг Интернет и ТВ
Защита от кибератаки DDoS при обработке интерфейса API
Единая точка входа в Kafka
Что нужно, чтобы начать учиться?
Понадобятся знания:
Знания Java на базовом уровне
Будет большим плюсом:
Установленные и настроенные среда разработки, git и docker
Базы данных на основе SQL на базовом уровне
Опыт работы с платформой docker, docker-compose на самом базовом уровне
ОС Linux
Понимание разницы между синхронной и асинхроной архитектурой
Бесплатная консультация по курсу «Apache Kafka для разработчиков»
Получить консультацию оставьте заявку и с вами свяжется наш менеджер
Вводная лекция
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают:
Как устроен курс
Как проходят занятия
Какой финальный проект будет ждать вас в конце
Kafka — незаменимый инструмент в крупных проектах
Организация событийной архитектуры, масштабирование потоков данных, балансировка нагрузки баз данных перестанут быть головной болью и отнимать много времени.
Сервисы подписываются только на события, которые им нужны, делая цепочку более надежной. Поэтому Kafka легко масштабируется и не является узким местом системы.
Мы можем отделить сервисы друг от друга, и в таком случае отказ какого-либо из сервисов в цепочке не приведет к отказу всей системы и ошибкам на стороне пользователя
Ускоряет рабочие задачи
Обеспечивает надежность доставляемых данных
Повышает надежность системы в целом
Программа
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают, как устроен курс, как проходят занятия, чему вы научитесь и какой финальный проект будет ждать вас в конце
Какую проблему решает Kafka
А одна ли Кафка на рынке? Что еще есть?
В чем преимущества Kafka
Как можно использовать Кафку
Принципы работы Kafka
Топик -> партиция -> ключ
Producer, Consumer, Consumer-группы
Порядковый номер сообщения: позиция сообщения в топике
Время жизни сообщений
Архитектура кластера Kafka с Zookeeper
Брокеры Kafka -> контроллер
Репликация данных между нодами
Развёртка локальной Kafka на практике
Kafka на практике: интерфейс командной строки (CLI)
Kafka на практике: пример продюсера для оптравки данных в Kafka
Kafka на практике: пример консьюмера для чтения данных из Kafka
Расширения Kafka: сервис Schema Registry
Расширения Kafka: инструмент Kafka Connect
Kafka для потоковой обработки интерфейса API
ksqlDB
Кейс из сферы финансовых технологий: надёжная вставка данных, высокая нагрузка
Кейс: репликация таблиц из MySQL в Oracle
Кейс: защита от DDOS при обработке API
Кейс: единая точка входа в Kafka
Проект Kafka для специалистов с опытом
Финальный тест
Разберём частые вопросы о Kafka на собеседованиях
Документы по итогам обучения
После прохождение курса вы можете получить:
Свидетельство о прохождении курса вы получите, если прошли курс на 80%
Сертификат о прохождении курса вы получите, если прошли ревью итогового проекта
Спикеры курса
Всеволод Севостьянов
Ведущий инженер в Lokalise
Специализируется на построении сложных когнитивных систем (от 20К запросов в секунду)
Команда под его руководством поддерживает мультитенантный клиентский кластер, рассчитанный на несколько тысяч компаний.
Василий Калугин
Эксперт Kafka, Страховой дом ВСК
4+ года опыта разработки и администрирования геораспределённого кластера Kafka
Отвечает за пайплайны и развёртывание, а также за менторство разработчиков в разрезе процессов непрерывной интеграции и поставки CI/CD
Создание комьюнити Kafka в компании и регулярные обучения разработчиков
Разработчик курсов и спикер Слёрм
После обучения вы:
Овладеете востребованным на рынке инструментом
Будете быстрее и эффективнее решать рабочие задачи
Сделаете свои приложения более отказоустойчивыми
Почувствуете, насколько легче работать с микросервисами благодаря Kafka
Узнаете о большинстве ошибок, которые совершают начинающие разработчики с Kafka, и не будете их совершать
Получите опыт разработки нескольких приложений, использующих Kafka
Узнаете про типовые шаблоны проектирования
Как купить курс
Видеоуроки, доступ 2 года
Стенд для практики
Свидетельство о прослушивании
Ревью большого финального проекта
Номерной сертификат
Проверка практики и обратная связь от эксперта
в рассрочку на 4 месяца или 70 000 ₽ единовременно
Заявка от компании на курс «Система распределённых очередей Apache Kafka для аналитиков и разработчиков», тариф «Видеокурс»
Вы отправляете нам заявку. Мы связываемся с вами, чтобы обсудить все детали, обменяться документами и запустить обучение ваших специалистов
Заявка от компании на курс «Система распределённых очередей Apache Kafka для аналитиков и разработчиков», тариф «Видеокурс с проверкой финального проекта»
Вы отправляете нам заявку. Мы связываемся с вами, чтобы обсудить все детали, обменяться документами и запустить обучение ваших специалистов
Заявка от компании на курс «Система распределённых очередей Apache Kafka для аналитиков и разработчиков», тариф «Видеокурс с проверкой практик и проекта»
Вы отправляете нам заявку. Мы связываемся с вами, чтобы обсудить все детали, обменяться документами и запустить обучение ваших специалистов
Подарочный сертификат
Подарите своему сотруднику скидку или курс целиком. А мы упакуем ;)
Перейти
Перейти
Универсальные доступы
Выгодно и быстро обучим целые команды. Единоразовое оформление и быстрый доступ к курсам.
Перейти
Перейти
Обратная связь для отдельных заданий
Если вам не хватит обратной связи в процессе обучения, вы сможете получить дополнительные проверки отдельно
Система распределённых очередей Apache Kafka для аналитиков и разработчиков
Мастхэв для инженеров инфраструктуры и важный плюс для программистов
Система распределённых очередей Apache Kafka
Учимся настраивать и оптимизировать технологию Apache Kafka
Оплатить комплект курсов Система распределённых очередей Apache Kafka для аналитиков и разработчиков Система распределённых очередей Apache Kafka
Вы можете оплатить российской картой, купить в рассрочку, а также ввести промокод на следующем шаге. Или подать заявку на оплату зарубежной картой
Заявка от компании на комплект курсов Система распределённых очередей Apache Kafka для аналитиков и разработчиков Система распределённых очередей Apache Kafka
Вы можете оплатить российской картой, купить в рассрочку, а также ввести промокод на следующем шаге. Или подать заявку на оплату зарубежной картой
язык Кафки: топики, партиции, продюсеры-консьюмеры, кластер, ноды.
принципы её работы: как работают очереди сообщений, сколько должно быть консьюмеров для эффективной вычитки, как повысить надёжность кластера с помощью репликации данных
как развернуть кластер Кафки на своём ПК с 3 нодами, schema-registry и авторизацией