Больше, чем просто настройка Kafka: вы изучите архитектуру и поймете логику работы с Kafka на примере бизнес-кейсов
Углублённый курс на платформе Docker+Postgres
Примеры на Java, но основные принципы и best-practice применимы и к другим языкам
Apache Kafka для разработчиков
длительность: 7 недель
поток: дата старта уточняется
70% практики
15 часов теории
Итоговый проект
с ревью эксперта
Прямое общение со спикером
3 онлайн-встречи в формате «вопрос-ответ» и отдельный чат
Сертификат
при выполнении от 80% практических заданий и проекта
35 часов практики
Разработчики
Для кого курс
Аналитики
Инженеры данных
В результате курса сможете:
Различать кейсы, где нужно использовать Kafka, а где нежелательно или даже излишне
Сможете общаться на одном языке с командой сопровождения Kafka
Больше не будете рассматривать Кафку как замену базе данных
Сможете эффективно выстраивать архитектуру на основе асинхронного взаимодействия через Kafka
Поймёте, почему кластер Кафки из 3х нод в 1 ДЦ — это не отказоустойчивое решение
Сможете дебажить продюсеры и консьюмеры для Кафки, написанные практически на любом языке программирования
Итоговый проект
В качестве итогового проекта вы разработаете систему, включающую все инструменты работы с Kafka, найдёте узкие места и примените best practice для оптимизации. Знаний, полученных в ходе разработки итогового задания, будет достаточно, чтобы внедрить Кафку в ваши рабочие проекты.
Бизнес-кейсы, которые будем решать
Каждому продюсеру—по консьюмеру!
Проблема #1. Много команд используют Kafka, каждая команда, не должна читать чужие топики. Нужен механизм управления доступом команд и иметь карту сервисов.
Проблема #4. Несколько брокеров Kafka и других сервисов (schema-registry, AKHQ, rest). Нужно производить работы с брокерами без влияния на пользователей. Желательно перевести Kafka в режим «самообслуживания».
Проблема #2. Критические данные с exactly once processing требованиями. Довольно большие по размеру сервисы с большими сообщениями. Необходимо валидировать схемы, потому что сообщения часто меняются. Kafka одна и используется многими сервисами для обмена.
Проблема #3. Большая нагрузка (40−100К RPS). Критичны потери данных, но exactly once не требуется, какой-то процент потерянных / повторно обработанных сообщений допустим. Много клиентских single tenant кластеров и есть Real time и OLAP-аналитика.
Финтех
Репликация таблиц из MySQL в Oracle
Сайт оператора связи с возможностью онлайн-продаж услуг Интернет и ТВ
Защита от DDoS при обработке API
Единая точка входа в Kafka
Что нужно, чтобы начать учиться?
Понадобятся знания:
  • Знания Java на базовом уровне
Будет большим плюсом:
  • Установленные и настроенные среда разработки, git и docker
  • SQL-баз на базовом уровне
  • Опыт работы с docker, docker-compose на самом базовом уровне
  • ОС Linux
  • Понимание разницы между синхронной и асинхроной архитектурой
Поймёте основы работы с Kafka и принципы построения архитектуры и бизнес-процессов
На курсе:
Научитесь решать проблемы с системами, требующими отправки/получения большого количества сообщений из разнородных систем
Подготовитесь к вопросам базовых собеседований на уровень пользователя Kafka
Бесплатная консультация по курсу «Apache Kafka для разработчиков»
Спикеры курса
Всеволод Севостьянов
Staff engineer в Lokalise
  • Специализируется на построении complex cognitive systems
  • Команда под его руководством поддерживает multi-tenant клиентский кластер на несколько тысяч компаний
Василий Калугин
Эксперт Kafka, Страховой дом ВСК
  • 4+ года опыта разработки и администрирования геораспределённого кластера Kafka
Подробнее о спикере
Подробнее о спикере
  • Отвечает за пайплайны и deployment, а также за менторство разработчиков в разрезе CI/CD
  • Главный виновник расширения зоопарка технологий, а также подхода «Давайте попробуем вон ту штуку»
  • Создание комьюнити Kafka в компании и регулярные обучения разработчиков
  • Разработчик курсов и спикер Слёрм
Реализовал IaC для AWX в enterprise
Реализовал IaC для AWX в enterprise
Всеволод Севостьянов
Staff engineer в Lokalise
  • Специализируется на построении complex cognitive systems
  • Команда под его руководством поддерживает multi-tenant клиентский кластер на несколько тысяч компаний
  • Отвечает за пайплайны и deployment, а также за менторство разработчиков в разрезе CI/CD
  • Главный виновник расширения зоопарка технологий, а также подхода «Давайте попробуем вон ту штуку»
Василий Калугин
Эксперт Kafka, Страховой дом ВСК
  • 4+ года опыта разработки и администрирования геораспределённого кластера Kafka
  • Создание комьюнити Kafka в компании и регулярные обучения разработчиков
  • Разработчик курсов и спикер Слёрм
Реализовал IaC для AWX в enterprise
Реализовал IaC для AWX в enterprise
Вводная лекция
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают:
  • Как устроен курс
  • Как проходят занятия
  • Какой финальный проект будет ждать вас в конце
Kafka — незаменимый инструмент в крупных проектах
Организация событийной архитектуры, масштабирование потоков данных, балансировка нагрузки баз данных перестанут быть головной болью и отнимать много времени.
Сервисы подписываются только на события, которые им нужны, делая цепочку более надежной. Поэтому Kafka легко масштабируется и не является узким местом системы.
Мы можем отделить сервисы друг от друга, и в таком случае отказ какого-либо из сервисов в цепочке не приведет к отказу всей системы и ошибкам на стороне пользователя
Ускоряет рабочие задачи
Обеспечивает надежность доставляемых данных
Повышает надежность системы в целом
Программа
Спикеры курса Всеволод Севостьянов и Василий Калугин рассказывают, как устроен курс, как проходят занятия, чему вы научитесь и какой финальный проект будет ждать вас в конце
  • Как можно использовать Кафку
  • Какую проблему решает Kafka
  • А одна ли Кафка на рынке? Что еще есть?
  • В чем преимущества Kafka
  • Время жизни сообщений
  • Offset: позиция сообщения в топике
  • Принципы работы Kafka
  • Топик -> партиция -> ключ
  • Producer, Consumer, Consumer-группы
  • Развёртка локальной Kafka на практике
  • Архитектура Kafka-кластера с Zookeeper
  • Kafka Brokers -> controller
  • Репликация данных между нодами
  • Kafka на практике: пример консьюмера для чтения данных из Kafka
  • Kafka на практике: CLI (Command Line Interface)
  • Kafka на практике: пример продюсера для оптравки данных в Kafka
  • Kafka Extendet: Kafka Connect
  • Kafka Extendet: Schema Registry
  • ksqlDB
  • Kafka Stream API
  • Кейс: единая точка входа в Kafka
  • Кейс fintech: надёжная вставка данных, highload
  • Кейс: репликация таблиц из MySQL в Oracle
  • Кейс: защита от DDOS при обработке API
  • Финальный тест
  • Проект Kafka для мидла
Разберём частые вопросы о Kafka на собеседованиях
Сертификат
Именной сертификат с индивидуальным номером получает студент, если:
  • прошёл 80% курса
  • принимал участие в решении практик, которые входят в курс
  • успешно сдал итоговое задание/проект/сертификацию.
В случае, если студент изучил 80% курса, но не выполнил или не сдал финальное задание, вместо сертификата выдаётся свидетельство.
После обучения вы:
Овладеете востребованным на рынке инструментом
Будете быстрее и эффективнее решать рабочие задачи
Сделаете свои приложения более отказоустойчивыми
Почувствуете, насколько легче работать с микросервисами благодаря Kafka
Узнаете о большинстве ошибок, которые совершают начинающие разработчики с Kafka, и не будете их совершать
Получите опыт разработки нескольких приложений, использующих Kafka
Узнаете про типовые шаблоны проектирования

Отзывы

Алексей Степаненко
Архитектор 1С
Я — разработчик бизнес-приложений. Да-да тот самый недо-программист (по мнению большого количества программистов на стэках Java, Python, C++ etc)

Однако хочется сказать, что и в нашем мире растет потребность в промышленных системах интеграций. Особенно на гетерогенном IT-ландшафте. Испытывая проблемы при решении вопросов интеграций классическими методами, принятыми в 1С-мире, стал поглядывать на другие инструменты, в частности esb-решения и брокеры. Попробовал и Rabbit MQ и Kafka. В какой-то момент осознал всю мощь Kafka, однако очень не хватало целостной картины по данному инструменту.

Этот курс покорил полнотой информации и методикой преподавания. Темы раскрываются последовательно и последовательно же растет сложность. Очень понравилось раскрытие паттерна saga. Понял, что его мне надо было применить на одном из проектов. Так же рекомендую пройти и курс «Kafka База», хоть он и направлен на инженеров-инфраструктурщиков, однако мне как программисту было интересно узнать некоторые моменты.

Хочется так же добавить ложку дегтя — совсем нет информации про безопасность в кафке.
Конечно же это шутка (про ложку), это скорее запрос на новые курсы! Жду с нетерпением!
Иногда обучение затягивается на долгие месяцы — и студенты часто не доходят до конца.

А иногда проходят учёбу в быстром темпе, без обратной связи и практики — и ничего не усваивают
Опытным путём мы вычислили, что идеальный срок для изучения Kafka с практикой — это 6−8 недель
За этот период вы получаете концентрат знаний от экспертов с многолетним стажем и начинаете применять Kafka в работе
Как купить курс
Написать нам
В 75% случаев обучение готова оплатить компания. Напишите нам, и мы поможем.
Курс за счёт работодателя
Написать нам
Узнать про вычет
Узнать про вычет
Предоставим все необходимые документы для получения вычета.
Налоговый вычет 13%
дата старта уточняется
Поток
Видеоуроки
Практические задания
Сертификат о прохождении курса
Онлайн-встречи со спикерами

Работа в группах с куратором

в рассрочку на 4 месяца или 80 000 ₽ единовременно
20 000 ₽/мес
старт в любой момент
Видеокурс
Видеоуроки
Практические задания
Свидетельство
Онлайн-встречи со спикерами
Работа в группах с куратором
в рассрочку на 4 месяца или 55 000 ₽ единовременно
13 750 ₽/мес
Налоговый вычет 13%
Предоставим все необходимые документы для получения вычета.
Узнать про вычет
Написать нам
Курс за счёт работодателя
В 75% случаев обучение готова оплатить компания. Напишите нам, и мы поможем.
Написать нам
Узнать про вычет
Рассрочка
только для физических лиц
Условия рассрочки:
Процесс оформления:
Командное предложение
от 10-ти человек
специальные условия
от 5-ти человек
-10%
от 3-х человек
-7%
Перейти
Выгодно и быстро обучим целые команды. Единоразовое оформление и быстрый доступ к курсам.
Универсальные доступы
Перейти
Перейти
Перейти
Подарите своему сотруднику скидку или курс целиком. А мы упакуем ;)
Подарочный сертификат
дата старта уточняется
Поток
Видеоуроки
Практические задания
Сертификат о прохождении курса
Онлайн-встречи со спикером
Работа в группах с куратором
90 000 ₽
старт в любой момент
Видеокурс
Видеоуроки
Практические задания
Свидетельство о прослушивании курса
Онлайн-встречи со спикером
Работа в группах с куратором
70 000 ₽
Подарочный сертификат
Подарите своему сотруднику скидку или курс целиком. А мы упакуем ;)
Перейти
Перейти
Универсальные доступы
Выгодно и быстро обучим целые команды. Единоразовое оформление и быстрый доступ к курсам.
Перейти
Перейти
Комплектом выгоднее
90 000 ₽
Поток
75 000 ₽
Видеокурс
Без скидки — 165 000 ₽
Apache Kafka для разработчиков


Мастхэв для инженеров инфраструктуры и важный плюс для программистов
Apache Kafka База

Учимся настраивать и оптимизировать технологию Apache Kafka
90 000 ₽
Поток
40 000 ₽
Видеокурс
Без скидки — 130 000 ₽
Apache Kafka для разработчиков


Мастхэв для инженеров инфраструктуры и важный плюс для программистов
Gitlab CI/CD

Пройдете путь от создания самого простого пайплайна до настройки сложных вариантов CI/CD
Прошедшие вебинары
На вебинаре обсудили:
  • Неправильное использование Кафка
  • Отсутствие коммитов в Кафка
  • Исчезновение сообщений
  • Ваши кейсы о проблемах при работе с Apache Kafka
На вебинаре обсудили:
  • Опыт создания Data Lake на ~80 ТБ с помощью Apache Kafka
  • Особенности эксплуатации kafka с retention в 99 999 999
  • Как жить, если kafka единственный источник данных в информационной системе
На вебинаре обсудили:
  • язык Кафки: топики, партиции, продюсеры-консьюмеры, кластер, ноды.
  • принципы её работы: как работают очереди сообщений, сколько должно быть консьюмеров для эффективной вычитки, как повысить надёжность кластера с помощью репликации данных
  • как развернуть кластер Кафки на своём ПК с 3 нодами, schema-registry и авторизацией
Нужна консультация?
задайте нам свой вопрос