Підготовка до співбесіди Data Scientist

Запитання для співбесіди Data Scientist

20 поширених запитань на співбесіді для Data Scientist. Data Science - затребуваний напрям, який перетворює продуктові, користувацькі та бізнес-дані на рішення, експерименти, моделі й вимірювані інсайти. Запитання охоплюють різні рівні, і ви можете потренуватися відповідати на них усно в нашому тренажері.

Почати AI-співбесіду для Data ScientistКредитна картка не потрібна. Доступна 1 безкоштовна сесія.
Практика технічних співбесід англійськоюРежим для тих, для кого англійська не є рідною, щоб тренувати технічні співбесіди.

Запитання для початківців

1Чим для двох числових змінних відрізняються коваріація й кореляція?

Коваріація E[(X − E[X])(Y − E[Y])] або вибірковий аналог показує, чи відхилення від середніх зазвичай мають однаковий знак. Величина залежить від одиниць. Кореляція Пірсона ділить коваріацію на добуток стандартних відхилень і за додатних дисперсій є безрозмірною від −1 до 1. Додатне лінійне масштабування її зберігає, зміна знака однієї змінної змінює знак кореляції. Жодна міра не доводить причинності. Нуль не означає незалежності, бо нелінійний зв’язок може дати нульову лінійну асоціацію. Оглядаю діаграму розсіювання, викиди й підгрупи, а для монотонності розглядаю рангову міру.

Відповісти на це запитання з ШІ-тренером

2У чому полягає концептуальна різниця між типами з'єднань inner, left, right та full outer join, і як кожен вибір впливає на вибірку аналізу та обробку значень NULL при подальшому обчисленні метрик?

З'єднання `INNER`, `LEFT`, `RIGHT` та `FULL OUTER JOIN` визначають, які саме записи зберігаються під час об'єднання таблиць за ключами збігу: - `Inner Join`: зберігає лише ті записи, для яких ключ з'єднання збігається в обох таблицях. - `Left (Outer) Join`: зберігає всі записи з лівої таблиці та заповнює стовпці з правої таблиці значеннями `NULL`, якщо збіг відсутній. - `Right (Outer) Join`: зберігає всі записи з правої таблиці, заповнюючи стовпці лівої таблиці значеннями `NULL` у разі відсутності збігу. - `Full Outer Join`: зберігає всі записи з обох таблиць, підставляючи `NULL` для відповідних стовпців з обох боків, якщо збіг відсутній. Вплив на вибірку аналізу та подальше обчислення метрик: вибір типу з'єднання безпосередньо впливає на аналітичну когорту та знаменники, що використовуються для розрахунку метрик. Ненавмисне використання `INNER JOIN` між таблицею користувачів і таблицею активності/транзакцій відкидає неактивних користувачів, зменшуючи знаменник лише до активних користувачів та штучно завищуючи показники конверсії або утримання (retention). Навпаки, зовнішні з'єднання зберігають повну базову сукупність, але додають значення `NULL` для рядків без збігів. Подальші обчислення повинні враховувати ці `NULL`: стандартні агрегатні функції SQL (Structured Query Language), такі як `SUM()` або `AVG()`, ігнорують значення `NULL`, `COUNT(column)` рахує лише не-`NULL` записи, тоді як `COUNT(*)` підраховує всі рядки, а арифметичні операції з необробленими `NULL` повертають `NULL`.

-- Inner join silently shrinks denominator to purchasers only
SELECT COUNT(o.order_id) * 1.0 / COUNT(u.user_id) AS inner_conv_rate
FROM users u
INNER JOIN orders o ON u.user_id = o.user_id;

-- Left join preserves full user base for accurate metric computation
SELECT COUNT(o.order_id) * 1.0 / COUNT(u.user_id) AS true_conv_rate
FROM users u
LEFT JOIN orders o ON u.user_id = o.user_id;
Відповісти на це запитання з ШІ-тренером

3In product experimentation, what does randomization achieve that simple before-after comparison usually cannot, and how would you explain the core causal claim an A/B test is designed to support?

In product experimentation, a simple before-after comparison compares metrics across different time periods, which confounds the effect of a feature change with external temporal factors such as seasonality, day-of-week patterns, concurrent marketing campaigns, macro trends, and natural user maturation. Randomization assigns eligible units simultaneously to treatment and control groups, balancing both observed and unobserved confounding variables across groups in expectation. This establishes internal validity. The core causal claim supported by an A/B test relies on counterfactual reasoning: because the control group is subjected to the exact same external conditions over the exact same time window, it serves as an empirical estimate of the counterfactual—what would have happened to the treatment group had they not received the feature. Therefore, any statistically significant difference in outcomes can be causally attributed to the treatment intervention.

# Naive Before-After Comparison:
# Effect_estimate = Metric_t1 (Holiday Launch) - Metric_t0 (Pre-Holiday Baseline)
# Problem: Lift is confounded by holiday shopping surge and marketing spend.

# Randomized A/B Test:
# Effect_estimate = E[Metric_Holiday | Treatment] - E[Metric_Holiday | Control]
# Solution: Both arms experience the exact same external shocks simultaneously.
Відповісти на це запитання з ШІ-тренером

4Яких цілей зазвичай прагнуть досягти за допомогою розвідувального аналізу даних перед формальним моделюванням або експериментами, і як відрізнити EDA (Exploratory Data Analysis) від підтверджувального аналізу?

Розвідувальний аналіз даних (Exploratory Data Analysis, EDA) — це відкритий дослідницький процес, спрямований на розуміння внутрішньої структури набору даних, виявлення закономірностей, виявлення аномалій або проблем із якістю даних, перевірку припущень щодо розподілу та формулювання гіпотез перед побудовою формальних статистичних моделей чи проведенням експериментів. Основна різниця між EDA та підтверджувальним аналізом полягає в їхній меті та методології: EDA генерує гіпотези, є гнучким і дослідницьким — він використовує описові підсумки, кореляції та візуалізації для вивчення того, на що вказують дані, без жорстких попередніх зобов'язань. Натомість підтверджувальний аналіз (наприклад, перевірка статистичних гіпотез або оцінювання результатів A/B-тестування) спрямований на тестування гіпотез, є структурованим та інференційним — він створений для ретельної перевірки заздалегідь визначених фальсифікованих гіпотез із контролем рівня статистичних помилок (наприклад, помилки I роду). Сприйняття висновків, зроблених під час EDA, як остаточно підтверджених на тому самому наборі даних, може призвести до хибного видобутку даних (p-hacking) і перевибирання (overfitting).

import numpy as np
import pandas as pd

# 1. EDA Phase: Open-ended discovery and hypothesis generation
df = pd.DataFrame({'engagement_score': np.random.normal(50, 10, 1000)})
summary = df['engagement_score'].describe()

# 2. Confirmatory Phase: Testing pre-registered hypothesis on fresh test/experiment data
# (e.g., two-sample t-test with fixed significance level alpha = 0.05)
Відповісти на це запитання з ШІ-тренером

5Що таке витік цільової змінної (target leakage) у навчанні з учителем і чим він відрізняється від легітимної сильної кореляції між ознакою та міткою?

Витік цільової змінної (target leakage) виникає тоді, коли ознака, включена в навчання моделі, містить інформацію про цільову мітку, яка об'єктивно була б недоступною під час інференсу (inference), коли модель робить реальні передбачення. Це часто трапляється, коли ознака збирається хронологічно пізніше за подію, що досліджується, або є прямим артефактом/наслідком цільового результату (наприклад, використання мітки часу скасування акаунта або ідентифікатора повернення коштів для прогнозування відтоку клієнтів). На противагу цьому легітимна сильна кореляція відображає справжній, раніше наявний прогностичний або причинно-наслідковий зв'язок, який повністю відомий і доступний до моменту прогнозування (наприклад, частота входів клієнта в систему за останні 30 днів). Хоча в обох випадках спостерігатиметься висока важливість ознак або високі метрики оцінки, модель із витоком цільової змінної покаже нереалістично високі результати на офлайн-валідації, але зазнає невдачі у продакшені, оскільки ознаку з витоком неможливо отримати на етапі інференсу.

# Scenario: Predicting whether a user will cancel their subscription (is_churned)

# LEAKY FEATURE:
# 'cancellation_survey_submitted' -> Occurs after the decision to churn has executed.

# LEGITIMATE FEATURE:
# 'login_count_last_30_days' -> Observed strictly before the prediction cut-off date.
Відповісти на це запитання з ШІ-тренером

6Яка мета розділення даних на навчальну, валідаційну та тестову вибірки і як кожна з вибірок має спрямовувати ітеративну розробку моделі?

Розділення даних на навчальну, валідаційну та тестову вибірки ізолює навчання моделі, налаштування гіперпараметрів і фінальне оцінювання, щоб забезпечити здатність до узагальнення на нових даних. - Навчальна вибірка (Training Set): використовується для підбору внутрішніх параметрів моделі (наприклад, ваг і зсувів у нейронних мережах або порогів розбиття в деревах рішень). - Валідаційна вибірка (Validation Set): використовується під час ітеративної розробки для вибору моделі, налаштування гіперпараметрів, відбору ознак і виявлення перенавчання (overfitting). Вона допомагає визначати, яка архітектура або конфігурація моделі працює найкраще, не зачіпаючи фінальні дані для оцінювання. - Тестова вибірка (Test Set): слугує строго відокремленим еталоном невідомих робочих даних. Вона оцінюється лише один раз наприкінці проєкту для отримання незміщеної оцінки похибки узагальнення. Повторне налаштування моделей на основі результатів тестової вибірки нівелює її об'єктивність і вносить оптимістичне зміщення (optimistic bias).

from sklearn.model_selection import train_test_split
from sklearn.datasets import make_classification

X, y = make_classification(n_samples=1000, n_features=10, random_state=42)

# Step 1: Split off final test set (20%)
X_dev, X_test, y_dev, y_test = train_test_split(
    X, y, test_size=0.20, random_state=42, stratify=y
)

# Step 2: Split remaining development data into train (75% of dev = 60% total) and validation (25% of dev = 20% total)
X_train, X_val, y_train, y_val = train_test_split(
    X_dev, y_dev, test_size=0.25, random_state=42, stratify=y_dev
)

print(f"Train size: {len(X_train)}, Val size: {len(X_val)}, Test size: {len(X_test)}")
Відповісти на це запитання з ШІ-тренером

7У чому полягає різниця між навчанням з учителем і навчанням без учителя, і як наявність міток та бізнес-цілі визначають вибір парадигми?

Алгоритми навчання з учителем вивчають математичне відображення від вхідних ознак (X) до відомих цільових міток (y), використовуючи розмічені історичні дані для прогнозування результатів на нових спостереженнях. Навчання без учителя аналізує набори даних, що містять лише ознаки (X), щоб виявити внутрішні структури, природні згрупування (кластеризація) або спрощені представлення даних без заздалегідь визначених цільових міток. Вибір парадигми зумовлений наявністю міток та бізнес-цілями: якщо істинні мітки (ground truth) існують або їх можна зібрати з прийнятними витратами, а бізнес-метою є цільове прогнозування (наприклад, виявлення шахрайства, прогнозування відтоку клієнтів, прогнозування цін), доцільно використовувати навчання з учителем. Якщо істинних міток немає, їх отримання є надто дорогим, або мета полягає у дослідницькому аналізі даних (наприклад, сегментація клієнтів, виявлення аномалій без відомих міток), обирають навчання без учителя.

import numpy as np
from sklearn.linear_model import LogisticRegression
from sklearn.cluster import KMeans

X = np.array([[10, 2], [12, 3], [1, 8], [2, 9]])
y = np.array([0, 0, 1, 1])

# Supervised: Learns mapping X -> y
clf = LogisticRegression().fit(X, y)

# Unsupervised: Discovers clusters directly from X
kmeans = KMeans(n_clusters=2, random_state=42, n_init=10).fit(X)
Відповісти на це запитання з ШІ-тренером

8Що таке метрика «Полярна зірка» (North Star Metric) і як відрізнити ефективну North Star від метрики марнославства (vanity metric) під час оцінювання стану продукту?

Метрика «Полярна зірка» (North Star Metric, NSM) — це головна метрика, яка найкраще відображає ключову цінність, яку продукт надає клієнтам, і водночас сприяє сталим бізнес-результатам (наприклад, «Заброньовані ночі» для Airbnb або «Щотижневі години активного прослуховування» для музичної платформи). Вона орієнтує продуктові команди на довгострокову цінність для користувача, а не на поверхове зростання. Щоб відрізнити ефективну North Star від метрики марнославства: 1. Відповідність цінності: ефективна North Star відображає реальну користь для користувача та активну залученість, тоді як метрика марнославства вимірює поверхневий обсяг (наприклад, загальну кількість зареєстрованих користувачів, сукупну кількість завантажень додатка або необроблені перегляди сторінок), який може зростати навіть тоді, коли користувачі одразу залишають продукт (churn). 2. Дієвість і кореляція: ефективна North Star корелює з утриманням користувачів (retention), станом продукту та монетизацією, а також безпосередньо реагує на покращення якості продукту. Метрики марнославства часто неможливо пов'язати зі справжнім утриманням чи життєздатністю бізнесу, і вони схильні до штучного завищення.

Platform: Vacation Rental App
Vanity Metric: Cumulative app downloads (increases continuously even if 95% of users uninstall immediately).
North Star Metric: Nights booked per active user (reflects actual value exchange between guests and hosts).
Відповісти на це запитання з ШІ-тренером

9У чому полягає практична різниця між зміщенням даних (data drift) та зміщенням концепції (concept drift), і чому їх правильна класифікація є критично важливою для підтримки моделі після розгортання?

Зміщення даних (data drift, часто зване коваріантним зсувом або covariate shift) виникає тоді, коли статистичний розподіл вхідних ознак P(X) змінюється з часом, тоді як умовна залежність між вхідними даними та цільовою змінною P(Y|X) залишається незмінною. Навпаки, зміщення концепції (concept drift) відбувається, коли змінюється сам базовий взаємозв'язок між вхідними даними та цільовою змінною P(Y|X), що означає, що однакові значення ознак тепер відповідають іншій поведінці цільової змінної чи іншим результатам. Правильна класифікація цих явищ має вирішальне значення для підтримки моделі після розгортання, оскільки способи їх усунення принципово відрізняються. При зміщенні даних історичні закономірності залишаються дійсними; підтримка зосереджується на розширенні навчальної вибірки для покриття нових областей ознак, оновленні попередньої обробки даних або перезважуванні вибірки (sample re-weighting). При зміщенні концепції історичні мітки більше не відображають поточну істину (ground truth); підтримка вимагає збору нових розмічених даних, відмови від застарілих історичних прикладів, а також перенавчання або зміни архітектури моделі.

# Data Drift (Covariate Shift):
# User demographics or devices change (P(X) shifts),
# but genuine vs fraudulent transaction patterns remain identical (P(Y|X) unchanged).

# Concept Drift:
# Fraudsters adapt tactics to mimic normal shopping patterns;
# identical feature inputs now have a higher probability of fraud (P(Y|X) shifts).
Відповісти на це запитання з ШІ-тренером

10У чому полягає різниця між параметром генеральної сукупності та вибірковою статистикою, і як вибіркова мінливість впливає на інтерпретацію метрик?

Параметр генеральної сукупності — це фіксована, зазвичай невідома числова характеристика всієї генеральної сукупності (наприклад, істинне середнє значення генеральної сукупності μ або частка p). Вибіркова статистика — це числове підсумкове значення, обчислене на основі спостережуваних даних вибірки (наприклад, вибіркове середнє x̄ або вибіркова частка p̂), яке використовується для оцінки невідомого параметра. Вибіркова мінливість означає природне коливання значень вибіркових статистик для різних випадкових вибірок, узятих з однієї і тієї ж генеральної сукупності. Через вибіркову мінливість будь-яка окрема вибіркова метрика зазнає впливу випадкової похибки і рідко точно збігається з істинним параметром генеральної сукупності. Під час інтерпретації метрик ігнорування цієї мінливості призводить до того, що випадковий шум помилково сприймають за реальні зміни. Аналітики повинні кількісно оцінювати невизначеність оцінок за допомогою стандартних похибок, довірчих інтервалів або перевірки статистичних гіпотез, перш ніж робити висновок про те, що спостережувана різниця є дійсною.

import numpy as np

# True population parameter (mean = 50, standard deviation = 10)
pop_mean = 50.0
pop_std = 10.0

# Draw multiple independent samples of size n=30
np.random.seed(42)
sample_means = [np.mean(np.random.normal(pop_mean, pop_std, size=30)) for _ in range(5)]

for i, sm in enumerate(sample_means, 1):
    print(f"Sample {i} Mean (Statistic): {sm:.2f} | Error: {sm - pop_mean:+.2f}")
Відповісти на це запитання з ШІ-тренером

Запитання для тих, хто продовжує

11Що таке точковий оцінювач і як зміщення та дисперсія впливають на його точність?

Оцінювач — статистика T(X) для оцінювання фіксованого параметра θ генеральної сукупності. Значення за конкретною вибіркою — точкова оцінка. За повторних вибірок з прийнятої моделі зміщення дорівнює E[T] − θ, дисперсія — E[(T − E[T])²]. Для квадратичних втрат MSE = Var(T) + Bias(T)². Незміщений оцінювач із великою дисперсією може бути неточним. Стягування шумних оцінок до орієнтира додає зміщення, але може знизити дисперсію достатньо, щоб покращити MSE. Властивості залежать від моделі й обсягу вибірки та самі не виправляють помилки вимірювання, відбору або зміну розподілу. Разом з оцінкою вказую невизначеність з урахуванням дизайну дослідження.

Відповісти на це запитання з ШІ-тренером

12Як звузити довірчий інтервал для середнього генеральної сукупності?

За незалежних спостережень і звичайних припущень двобічний інтервал має вигляд середнє ± критичне значення × s/√n, з квантилем t, коли він доречний. Приблизно чотирикратне збільшення вибірки вдвічі зменшує стандартну похибку. Точніші вимірювання, продумана стратифікація або коректне врахування коваріат можуть знизити дисперсію зі збереженням цільової величини. Корельовані й кластеризовані спостереження дають менше інформації: враховую дизайн вибірки. Зниження рівня довіри звужує інтервал ціною меншого покриття. Не вилучаю незручні дані й не добираю метод під бажаний результат. Навіть вузький інтервал може бути навколо зміщеної оцінки: важливі репрезентативність і коректність припущень.

Відповісти на це запитання з ШІ-тренером

13Поверніть назву першого твору, який кожен користувач почав дивитися у стримінговому сервісі кожного календарного дня.

Визначаю дату кожного сеансу в часовому поясі звіту. У ROW_NUMBER() ділю рядки на групи за user_id і датою та впорядковую за часом початку й сталим унікальним ID відтворення. Беру перший рядок і знаходжу назву. Уточнюю, чи за одночасного старту потрібно лишити одну назву, як у завданні, чи повернути всі за іншим правилом.

Відповісти на це запитання з ШІ-тренером

14Як би ви спроєктували розбиття когорт для дослідження активації або утримання (retention), щоб гарантувати, що на порівняння не впливатимуть зміни структури вибірки (mix shifts) або усічення за зрілістю (maturity truncation)?

Щоб спроєктувати когортне розбиття, яке уникає змін структури вибірки та усічення за зрілістю: 1. **Стандартизуйте вікна життєвого циклу (Tenure Windows)**: вирівнюйте когорти за відносним часом перебування (наприклад, день 0, день 7, день 30 після реєстрації чи активації), а не за календарними датами, щоб забезпечити коректне порівняння життєвих циклів. 2. **Враховуйте усічення за зрілістю (правостороннє цензурування)**: оцінюйте лише ті когорти, які повністю досягли кінця вікна спостереження. Виключайте або явно позначайте нещодавні когорти, які ще не мали достатньо часу для досягнення цільової події. 3. **Нівелюйте зміни структури вибірки (Mix Shifts)**: сегментуйте когорти за впливовими факторами, що спотворюють дані (такими як канал залучення, платформа, країна або намір користувача). Якщо формується узагальнений показник, використовуйте стандартизацію чи постстратифікаційне зважування, щоб зміни в розподілі джерел залучення не викривляли динаміку утримання.

WITH user_cohorts AS (
    SELECT 
        user_id,
        DATE_TRUNC('week', signup_time) AS cohort_week,
        signup_time,
        acquisition_channel
    FROM users
    -- Exclude cohorts that have not reached 7 full days of maturity
    WHERE signup_time <= CURRENT_DATE - INTERVAL '7 days'
),
user_activity AS (
    SELECT DISTINCT 
        c.user_id,
        c.cohort_week,
        c.acquisition_channel,
        1 AS retained_d7
    FROM user_cohorts c
    JOIN events e ON c.user_id = e.user_id
    WHERE e.event_time >= c.signup_time + INTERVAL '7 days'
      AND e.event_time < c.signup_time + INTERVAL '8 days'
)
SELECT 
    c.cohort_week,
    c.acquisition_channel,
    COUNT(c.user_id) AS cohort_size,
    COUNT(a.user_id) AS d7_active_users,
    ROUND(100.0 * COUNT(a.user_id) / COUNT(c.user_id), 2) AS d7_retention_pct
FROM user_cohorts c
LEFT JOIN user_activity a ON c.user_id = a.user_id
GROUP BY 1, 2
ORDER BY 1 DESC, 2;
Відповісти на це запитання з ШІ-тренером

15Під час оцінювання ваша модель досягає незвично високого значення метрики, наприклад AUC (Area Under the Curve) на рівні 0,99, але якість різко падає під час тіньового тестування (shadow testing). Як систематично ізолювати та перевірити витік цільової змінної (target leakage)?

Коли модель демонструє нереалістично високу метрику в офлайн-оцінюванні (наприклад, AUC на рівні 0,99), яка різко падає під час тіньового тестування в реальному часі, основною причиною зазвичай є витік цільової змінної (target leakage). Систематичний процес ізоляції та перевірки містить такі кроки: 1. **Важливість ознак та атрибуція (Feature Importance & Attribution):** обчисліть значення SHAP, приріст важливості (gain importance) або перестановочну важливість (permutation importance), щоб виявити ознаки-кандидати з домінуючою прогностичною здатністю. 2. **Одноознакові моделі та абляційні дослідження (Single-Feature Models & Ablation Studies):** навчіть прості моделі на одній ознаці (наприклад, неглибокі дерева рішень або логістичну регресію) для кожної підозрілої ознаки. Якщо одна ознака забезпечує майже ідеальну класифікацію, вона, найімовірніше, спричиняє витік цільової змінної. Послідовно вилучайте підозрілі ознаки та вимірюйте падіння якості на офлайн-вибірці. 3. **Аудит часових міток та походження даних (Temporal & Timestamp Lineage Audit):** перевірте точні часові мітки створення/оновлення підозрілих ознак відносно точки відсікання прогнозу (prediction cutoff timestamp). Переконайтеся, чи не могло значення ознаки стати відомим лише після настання цільової події (наприклад, поля `cancellation_reason` або `refund_status`, що заповнюються лише під час відтоку або повернення коштів). 4. **Перевірка походження даних та інженерних конвеєрів (Data Lineage and Engineering Verification):** проаналізуйте логіку апстрім-конвеєрів даних і модифікації таблиць (наприклад, оновлення змінюваних таблиць на місці замість незмінюваних журналів із додаванням нових записів), щоб перевірити, коли саме заповнюються відповідні поля.

from sklearn.metrics import roc_auc_score
from sklearn.tree import DecisionTreeClassifier

leakage_candidates = {}
for col in X_train.columns:
    clf = DecisionTreeClassifier(max_depth=2)
    clf.fit(X_train[[col]], y_train)
    preds = clf.predict_proba(X_test[[col]])[:, 1]
    auc = roc_auc_score(y_test, preds)
    if auc > 0.85:
        leakage_candidates[col] = auc

print("Candidate Leaky Features:", leakage_candidates)
Відповісти на це запитання з ШІ-тренером

16Як ви обираєте між звичайною K-Fold, стратифікованою (Stratified K-Fold) та груповою (Group K-Fold) крос-валідацією під час оцінювання структурованих реальних даних?

Вибір між звичайною K-Fold, стратифікованою (Stratified K-Fold) та груповою (Group K-Fold) крос-валідацією залежить від розподілу цільової змінної та незалежності рядків: 1. **Звичайна K-Fold**: розбиває дані випадковим чином на K рівних блоків (folds). Вона передбачає, що спостереження є незалежними та однаково розподіленими (IID, independent and identically distributed), і зазвичай використовується для задач регресії з неперервною цільовою змінною або для добре збалансованих наборів даних. 2. **Стратифікована K-Fold (Stratified K-Fold)**: забезпечує однакове відсоткове співвідношення міток цільових класів у кожному блоці, як і в повному наборі даних. Вона необхідна для задач класифікації, особливо у випадку дисбалансу класів, щоб уникнути блоків, які містять занадто мало зразків міноритарного класу або взагалі їх не мають. 3. **Групова K-Fold (Group K-Fold)**: гарантує, що окремі групи/сутності (наприклад, `user_id`, `patient_id`, `device_id`) не з'являються одночасно і в навчальному, і у валідаційному блоках. Якщо кілька спостережень належать одній сутності, стандартне розбиття призводить до значного витоку даних (data leakage), оскільки модель запам'ятовує специфічні ознаки сутності замість вивчення узагальнених закономірностей. Group K-Fold оцінює, наскільки добре модель узагальнює результати для абсолютно нових сутностей.

from sklearn.model_selection import KFold, StratifiedKFold, GroupKFold, StratifiedGroupKFold

# Standard IID Regression:
cv_kfold = KFold(n_splits=5, shuffle=True, random_state=42)

# Imbalanced Classification (IID samples):
cv_strat = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)

# Grouped entities (e.g., repeated patient visits):
cv_group = GroupKFold(n_splits=5)

# Grouped entities with target imbalance:
cv_strat_group = StratifiedGroupKFold(n_splits=5)
Відповісти на це запитання з ШІ-тренером

17Як ви обираєте між логістичною регресією, деревами рішень із градієнтним бустингом (GBDT, Gradient Boosted Decision Trees) та нелінійними нейромережевими архітектурами для класифікації табличних даних з урахуванням обмежень затримки (latency) та дрейфу даних (drift)?

Вибір між логістичною регресією (LR), деревами рішень із градієнтним бустингом (GBDT) та нейронними мережами (NN) для класифікації табличних даних передбачає балансування прогностичної сили, бюджету затримки інференсу (inference latency), інтерпретованості та стійкості до дрейфу даних (data drift). 1. Логістична регресія чудово підходить для середовищ із наднизькою затримкою (<1-5 мс для 99-го перцентиля, p99) та сильно обмеженими обчислювальними ресурсами. Оскільки обчислення передбачення — це просте скалярне множення, модель є надзвичайно швидкою та надійною. За наявності дрейфу коваріат (covariate drift) або значень ознак за межами тренувального розподілу (out-of-distribution) лінійні моделі екстраполюють монотонно, що може бути як передбачуваним, так і небезпечним залежно від регуляризованих коефіцієнтів, проте вони рідко демонструють хаотичну східчасту поведінку. Втім, LR вимагає ретельного ручного конструювання ознак (feature engineering: взаємодії, нелінійне квантування), щоб наблизитися до точності нелінійних архітектур. 2. GBDT (наприклад, XGBoost, LightGBM, CatBoost) є стандартом індустрії за замовчуванням для табличних даних. Вони природно враховують складні нелінійні взаємодії, без проблем працюють зі змішаними типами даних і пропущеними значеннями. Щодо затримки, оптимізовані GBDT (або скомпільовані через Treelite/ONNX) легко вкладаються в SLA менше ніж 10 мс. Під час дрейфу GBDT не можуть екстраполювати за межі спостережуваних меж навчання (обмежуючи передбачення значеннями граничних листків), що створює вбудований захист від неконтрольованої екстраполяції, але несе ризик видачі незмінних застарілих східчастих передбачень у разі значного зсуву розподілу ознак. 3. Нейромережеві архітектури (наприклад, FT-Transformer, TabNet, MLP) обирають, коли табличні дані є мультимодальними (поєднуються з текстом, ембедингами чи зображеннями) або в умовах неперервного онлайн-навчання. Проте суто табличні нейромережі зазвичай мають вищу затримку інференсу (вимагають матричного множення між шарами або прискорення на GPU), потребують більше обчислень для навчання та дуже чутливі до немасштабованих вхідних даних і дрейфу коваріат. На практиці: починайте з GBDT як сильного базового рішення; якщо потрібна сувора мікросекундна затримка або проста інтерпретованість, використовуйте LR; нейромережі застосовуйте переважно для мультимодальних архітектур або переносу ембедингів.

decision_matrix = {
    "Logistic Regression": {"Latency": "<1ms (Ultra-low)", "Drift Behavior": "Linear extrapolation", "Tabular Baseline": "Moderate (needs feature engineering)"},
    "GBDT (XGB/LightGBM)": {"Latency": "1-15ms (Fast)",      "Drift Behavior": "Leaf clamping (no extrapolation)", "Tabular Baseline": "State of the Art"},
    "Tabular Neural Net":  {"Latency": "10-50ms+ (Higher)",    "Drift Behavior": "Nonlinear extrapolation", "Tabular Baseline": "Competitive / High tuning cost"}
}
for model, traits in decision_matrix.items():
    print(f"{model}: Latency={traits['Latency']}, Tabular Perf={traits['Tabular Baseline']}")
Відповісти на це запитання з ШІ-тренером

Запитання для досвідчених

18Ви можете генерувати вибірку з одного розподілу, але потрібне середнє за іншим. Як працює вибірка за значущістю і коли вона може не спрацювати?

Для нормованої цільової густини p і пропозиції q використовую w(x) = p(x)/q(x). Середнє w(Xi)f(Xi) оцінює E_p[f], якщо q покриває потрібний носій p і сподівання існує. Коли p відома лише до множника, беру Σwi f(Xi)/Σwi: ця оцінка зазвичай зміщена для скінченної вибірки, але за належних умов є консистентною. Якщо q дорівнює нулю там, де є важлива маса p, більша вибірка не допоможе. Погане перекриття чи невідповідні хвости дають кілька надмірних ваг. Перевіряю їхню концентрацію, ефективний обсяг та невизначеність, поліпшую q або беру суміш.

Відповісти на це запитання з ШІ-тренером

19Як би ви спроєктували централізований семантичний шар у корпоративному сховищі даних EDW (Enterprise Data Warehouse), щоб забезпечити узгодженість визначень бізнес-метрик між різними командами аналітики?

Проєктування централізованого семантичного шару в корпоративному сховищі даних вимагає створення декларативного шару визначення метрик на основі коду (як-от MetricFlow/dbt Semantic Layer, Cube або LookML), який відокремлює бізнес-логіку від фізичного збереження даних та інструментів їх подальшого споживання (BI-платформи, блокноти Python/R, API). Базова архітектура визначає сутності, виміри, показники та похідні метрики у репозиторіях із контролем версій (Git), забезпечуючи єдине джерело правди та гарантуючи узгодженість метрик між різними командами. Для підтримки мультитенентності та керування даними між різними бізнес-підрозділами слід застосовувати федеративну модель управління: ключові корпоративні показники ефективності (KPI, наприклад, ARR, активні користувачі) контролюються центральною командою data governance, тоді як доменно-специфічні метрики управляються децентралізованими доменними командами через ізольовані семантичні моделі з валідацією засобами CI/CD. Після цього семантичний шар надає стандартизовані інтерфейси запитів (SQL, GraphQL, REST) з єдиним контролем доступу на основі ролей (RBAC), кешуванням та попередньою агрегацією для підтримки високої продуктивності й узгодженості.

semantic_model:
  name: orders
  node_relation:
    alias: fct_orders
  dimensions:
    - name: order_date
      type: time
      type_params:
        time_granularity: day
    - name: country
      type: categorical
  measures:
    - name: total_revenue
      expr: revenue_usd
      agg: sum
    - name: distinct_buyers
      expr: user_id
      agg: count_distinct

metrics:
  - name: average_order_value
    description: "Governed metric for AOV across all BI tools"
    type: ratio
    type_params:
      numerator: total_revenue
      denominator: distinct_buyers
Відповісти на це запитання з ШІ-тренером

20У двосторонньому маркетплейсі (наприклад, райдшеринг або електронна комерція), як би ви спроєктували експеримент для оцінки зміни алгоритму зіставлення (matching), враховуючи канібалізацію попиту і пропозиції та просторово-часову інтерференцію?

У двосторонніх маркетплейсах оцінка алгоритмів зіставлення за допомогою стандартного A/B-тестування на рівні користувачів порушує припущення про стабільність значення обробки для окремої одиниці (SUTVA — Stable Unit Treatment Value Assumption). Коли експериментальні одиниці тестової групи споживають обмежені спільні ресурси (наприклад, водіїв чи товари на складі), вони канібалізують контрольну групу, що призводить до штучного погіршення показників контрольної групи та завищення ефекту впливу через зміщення ринкової рівноваги. Для вирішення проблеми просторової та часової інтерференції застосовують дві основні архітектури експериментів: кластерну рандомізацію та switchback-експерименти (із чергуванням за часом). У разі просторової кластерної рандомізації географічні ринки або ізольовані субрегіони (наприклад, окремі агломерації чи розбиті за графом гексагональні просторові комірки) рандомізуються у тестову або контрольну групу. Це ізолює прямі взаємодії між попитом і пропозицією, хоча й вимагає методів на кшталт синтетичного контролю (synthetic controls) або методу різниці різниць (difference-in-differences) для врахування міжринкової неоднорідності. У switchback-експериментах цілі ізольовані ринки чергують тестовий та контрольний алгоритми у дискретних часових вікнах (наприклад, перемикання кожні 1–2 години). Switchback-експерименти зберігають спільний баланс попиту і пропозиції на ринку в межах кожного вікна, але вносять зміщення через часовий перехідний ефект (carryover bias). Щоб мінімізувати перехідний ефект у таких експериментах, впроваджують перехідні буфери або періоди очищення (washout periods) між вікнами (відкидаючи замовлення під час переходу станів) і обирають тривалість вікна достатньо великою, щоб компенсувати перерозподіл пропозиції, але водночас достатньо короткою для збереження статистичної потужності. Аналіз повинен враховувати автокорельовані помилки часових рядів шляхом кластеризації стандартних помилок на рівні часових блоків/ринків або з використанням узагальнених оціночних рівнянь (GEE) чи оцінювачів дисперсії Ньюї-Веста (Newey-West).

import pandas as pd
import numpy as np

def generate_switchback_schedule(n_days=14, window_minutes=60, washout_minutes=15):
    total_windows = int((n_days * 24 * 60) / window_minutes)
    np.random.seed(42)
    treatments = np.random.binomial(1, 0.5, size=total_windows)
    schedule = []
    for i, trt in enumerate(treatments):
        start_min = i * window_minutes
        eval_start_min = start_min + washout_minutes
        end_min = (i + 1) * window_minutes
        schedule.append({
            'window_id': i,
            'treatment': trt,
            'start_min': start_min,
            'eval_start_min': eval_start_min,
            'end_min': end_min
        })
    return pd.DataFrame(schedule)
Відповісти на це запитання з ШІ-тренером

Співбесіди на телефоні: Дослідник даних

Відповідайте вголос і отримуйте зворотний зв’язок від ШІ в застосунку для Android.

Завантажити EngineerSpeak у Google Play
Скануйте для завантаження