Больше, чем просто настройка Kafka: вы изучите архитектуру и поймете логику работы с Kafka на примере бизнес-кейсов
Углублённый курс на платформе Docker+Postgres
Примеры на Java, но основные принципы и best-practice применимы и к другим языкам
Начать учиться
Программа
Apache Kafka для разработчиков и аналитиков
обновили в конце 2024
с практикой
старт в любой момент
70% практики
15 часов теории
Проект для портфолио
Усложненные задания
дополнительные задания со звёздочкой
Свидетельство
при выполнении от 80% практических заданий и проекта
35 часов практики
Разработчики
Для кого курс
Главная цель — понять концепцию и архитектуру взаимодействия с Kafka. На основе этой базы уже гораздо проще развиваться и взаимодействовать с командой Kafka
Аналитики
Инженеры данных и DevOps-инженеры
В результате курса сможете:
Поймёте основы работы с Kafka и принципы построения архитектуры и бизнес-процессов
Научитесь решать проблемы с системами, требующими отправки/получения большого количества сообщений из разнородных систем
Подготовитесь к вопросам базовых собеседований на уровень пользователя Kafka
Сможете эффективно выстраивать архитектуру на основе асинхронного взаимодействия через Kafka
Поймёте, почему кластер Кафки из 3х нод в 1 ДЦ — это не отказоустойчивое решение
Сможете дебажить продюсеры и консьюмеры для Кафки, написанные практически на любом языке программирования
доступа
года
2
практики
часов
40
теории
часов
тем
9
10
в программе
На курсе:
Итоговый проект
В качестве итогового проекта вы разработаете систему, включающую все инструменты работы с Kafka, найдёте узкие места и примените best practice для оптимизации. Знаний, полученных в ходе разработки итогового задания, будет достаточно, чтобы внедрить Кафку в ваши рабочие проекты.
Бизнес-кейсы, которые будем решать
Каждому продюсеру—по консьюмеру!
Проблема #1. Много команд используют Kafka, каждая команда, не должна читать чужие топики. Нужен механизм управления доступом команд и иметь карту сервисов.
Проблема #4. Несколько брокеров Kafka и других сервисов (schema-registry, AKHQ, rest). Нужно производить работы с брокерами без влияния на пользователей. Желательно перевести Kafka в режим «самообслуживания».
Проблема #2. Критические данные с exactly once processing требованиями. Довольно большие по размеру сервисы с большими сообщениями. Необходимо валидировать схемы, потому что сообщения часто меняются. Kafka одна и используется многими сервисами для обмена.
Проблема #3. Большая нагрузка (40−100К RPS). Критичны потери данных, но exactly once не требуется, какой-то процент потерянных / повторно обработанных сообщений допустим. Много клиентских single tenant кластеров и есть Real time и OLAP-аналитика.
Финтех
Репликация таблиц из MySQL в Oracle
Сайт оператора связи с возможностью онлайн-продаж услуг Интернет и ТВ
Защита от DDoS при обработке API
Единая точка входа в Kafka
Что нужно, чтобы начать учиться?
Понадобятся знания:
  • Знания Java на базовом уровне
Будет большим плюсом:
  • Установленные и настроенные среда разработки, git и docker
  • SQL-баз на базовом уровне
  • Опыт работы с docker, docker-compose на самом базовом уровне
  • ОС Linux
  • Понимание разницы между синхронной и асинхроной архитектурой
Бесплатная консультация по курсу «Apache Kafka для разработчиков»
Получить консультацию
Вводная лекция
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают:
  • Как устроен курс
  • Как проходят занятия
  • Какой финальный проект будет ждать вас в конце
Kafka — незаменимый инструмент в крупных проектах
Организация событийной архитектуры, масштабирование потоков данных, балансировка нагрузки баз данных перестанут быть головной болью и отнимать много времени.
Сервисы подписываются только на события, которые им нужны, делая цепочку более надежной. Поэтому Kafka легко масштабируется и не является узким местом системы.
Мы можем отделить сервисы друг от друга, и в таком случае отказ какого-либо из сервисов в цепочке не приведет к отказу всей системы и ошибкам на стороне пользователя
Ускоряет рабочие задачи
Обеспечивает надежность доставляемых данных
Повышает надежность системы в целом
Программа
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают, как устроен курс, как проходят занятия, чему вы научитесь и какой финальный проект будет ждать вас в конце
  • Как можно использовать Кафку
  • Какую проблему решает Kafka
  • А одна ли Кафка на рынке? Что еще есть?
  • В чем преимущества Kafka
  • Время жизни сообщений
  • Offset: позиция сообщения в топике
  • Принципы работы Kafka
  • Топик -> партиция -> ключ
  • Producer, Consumer, Consumer-группы
  • Развёртка локальной Kafka на практике
  • Архитектура Kafka-кластера с Zookeeper
  • Kafka Brokers -> controller
  • Репликация данных между нодами
  • Kafka на практике: пример консьюмера для чтения данных из Kafka
  • Kafka на практике: CLI (Command Line Interface)
  • Kafka на практике: пример продюсера для оптравки данных в Kafka
  • Kafka Extended: Kafka Connect
  • Kafka Extended: Schema Registry
  • ksqlDB
  • Kafka Stream API
  • Кейс: единая точка входа в Kafka
  • Кейс fintech: надёжная вставка данных, highload
  • Кейс: репликация таблиц из MySQL в Oracle
  • Кейс: защита от DDOS при обработке API
  • Финальный тест
  • Проект Kafka для мидла
Разберём частые вопросы о Kafka на собеседованиях
Документы по итогам обучения
После прохождение курса вы можете получить:
  • Свидетельство о прохождении курса вы получите, если прошли курс на 80%
  • Сертификат о прохождении курса вы получите, если прошли ревью итогового проекта
Спикеры курса
Всеволод Севостьянов
Staff engineer в Lokalise
  • Специализируется на построении complex cognitive systems
  • Команда под его руководством поддерживает multi-tenant клиентский кластер на несколько тысяч компаний
Василий Калугин
Эксперт Kafka, Страховой дом ВСК
  • 4+ года опыта разработки и администрирования геораспределённого кластера Kafka
Подробнее о спикере
Подробнее о спикере
  • Отвечает за пайплайны и deployment, а также за менторство разработчиков в разрезе CI/CD
  • Главный виновник расширения зоопарка технологий, а также подхода «Давайте попробуем вон ту штуку»
  • Создание комьюнити Kafka в компании и регулярные обучения разработчиков
  • Разработчик курсов и спикер Слёрм
Реализовал IaC для AWX в enterprise
Реализовал IaC для AWX в enterprise
Всеволод Севостьянов
Staff engineer в Lokalise
  • Специализируется на построении complex cognitive systems
  • Команда под его руководством поддерживает multi-tenant клиентский кластер на несколько тысяч компаний
  • Отвечает за пайплайны и deployment, а также за менторство разработчиков в разрезе CI/CD
  • Главный виновник расширения зоопарка технологий, а также подхода «Давайте попробуем вон ту штуку»
Василий Калугин
Эксперт Kafka, Страховой дом ВСК
  • 4+ года опыта разработки и администрирования геораспределённого кластера Kafka
  • Создание комьюнити Kafka в компании и регулярные обучения разработчиков
  • Разработчик курсов и спикер Слёрм
Реализовал IaC для AWX в enterprise
Реализовал IaC для AWX в enterprise
После обучения вы:
Овладеете востребованным на рынке инструментом
Будете быстрее и эффективнее решать рабочие задачи
Сделаете свои приложения более отказоустойчивыми
Почувствуете, насколько легче работать с микросервисами благодаря Kafka
Узнаете о большинстве ошибок, которые совершают начинающие разработчики с Kafka, и не будете их совершать
Получите опыт разработки нескольких приложений, использующих Kafka
Узнаете про типовые шаблоны проектирования
Как купить курс
Эксперт
Видеоуроки, доступ 2 года
Стенд для практики
Свидетельство о прослушивании
Ревью большого финального проекта
Номерной сертификат
Проверка практики и обратная связь от эксперта
Чат с экспертом
в рассрочку на 4 месяца или 70 000 ₽ единовременно
17 500 ₽
Купить
Стандарт
Видеоуроки, доступ 2 года
Стенд для практики
Свидетельство о прослушивании
Ревью большого финального проекта
Номерной сертификат
Проверка практики и обратная связь от эксперта
Чат с экспертом
в рассрочку на 4 месяца или 55 000 ₽ единовременно
13 750 ₽
Купить
Соло
Видеоуроки, доступ 2 года
Стенд для практики
Свидетельство о прослушивании
Ревью большого финального проекта
Номерной сертификат
Проверка практики и обратная связь от эксперта
Чат с экспертом
в рассрочку на 4 месяца или 50 000 ₽ единовременно
12 500 ₽
Купить
Налоговый вычет 13%
Предоставим все необходимые документы для получения вычета.
Узнать про вычет
Написать нам
Курс за счёт работодателя
В 75% случаев обучение готова оплатить компания. Напишите нам, и мы поможем.
Написать нам
Узнать про вычет
Рассрочка
только для физических лиц
Условия рассрочки:
Процесс оформления:
Командное предложение
от 10 человек
специальные условия
от 5 человек
-10%
от 3 человек
-7%
Оставить заявку
Эксперт
Видеоуроки, доступ 2 года
Стенд для практики
Свидетельство о прослушивании
Ревью большого финального проекта
Номерной сертификат
Проверка практики и обратная связь от эксперта
Чат с экспертом
95 000 ₽
Оставить заявку
Стандарт
Видеоуроки, доступ 2 года
Стенд для практики
Свидетельство о прослушивании
Ревью большого финального проекта
Номерной сертификат
Проверка практики и обратная связь от эксперта
Чат с экспертом
75 000 ₽
Оставить заявку
Соло
Видеоуроки, доступ 2 года
Стенд для практики
Свидетельство о прослушивании
Ревью большого финального проекта
Номерной сертификат
Проверка практики и обратная связь от эксперта
Чат с экспертом
65 000 ₽
Оставить заявку
Подарочный сертификат
Подарите своему сотруднику скидку или курс целиком. А мы упакуем ;)
Перейти
Перейти
Универсальные доступы
Выгодно и быстро обучим целые команды. Единоразовое оформление и быстрый доступ к курсам.
Перейти
Перейти
Обратная связь для отдельных заданий
Если вам не хватит обратной связи в процессе обучения, вы сможете получить дополнительные проверки отдельно
Проверка финального проекта
  • для физ. лиц — 5 000 ₽
  • для юр. лиц — 10 000 ₽
Пакет проверки практик:
  • для физ. лиц — 15 000 ₽
  • для юр. лиц — 20 000 ₽
Прошедшие вебинары
На вебинаре обсудили:
Смотреть запись
  • Неправильное использование Кафка
  • Отсутствие коммитов в Кафка
  • Исчезновение сообщений
  • Ваши кейсы о проблемах при работе с Apache Kafka
На вебинаре обсудили:
Смотреть запись
  • Опыт создания Data Lake на ~80 ТБ с помощью Apache Kafka
  • Особенности эксплуатации kafka с retention в 99 999 999
  • Как жить, если kafka единственный источник данных в информационной системе
На вебинаре обсудили:
Смотреть запись
  • язык Кафки: топики, партиции, продюсеры-консьюмеры, кластер, ноды.
  • принципы её работы: как работают очереди сообщений, сколько должно быть консьюмеров для эффективной вычитки, как повысить надёжность кластера с помощью репликации данных
  • как развернуть кластер Кафки на своём ПК с 3 нодами, schema-registry и авторизацией
Нужна консультация?
задайте нам свой вопрос