08 — Lộ trình học, bài tập và câu hỏi tự kiểm tra#

1. Cách học để có gốc rễ#

Mỗi buổi có bốn bước: nhớ lại không nhìn tài liệu → đọc để sửa hiểu nhầm → tự giải thích một ví dụ → ghi một câu hỏi còn mở. Không cần GPU cho lộ trình này.

Thời lượng gợi ý 60–90 phút/buổi; có thể tách một buổi thành nhiều lần đọc. Đây là thứ tự học, không phải lịch cố định hay automation. Không cần gấp rút học hết trước ngày nhận kết quả paper.

2. Năm bài tập có lời giải#

A. Tính token và temporal resolution#

Input $T\times F=256\times128$. Patch8×32:

Nếu đổi patch4×32, input giữ nguyên: $N_t=64,N_f=4,N=256$. Temporal positions gấp đôi; phần dense-attention interactions tăng khoảng4 lần theo $N^2$, nhưng tổng runtime không nhất thiết tăng đúng4 lần vì còn projection, MLP, overhead và hardware.

Hop10ms cho nominal patch span80ms và40ms tương ứng. Không được gọi nó là toàn receptive field; STFT window và attention làm context rộng hơn.

Nếu dùng waveform2,56 s ở32kHz, window25ms=800 samples, hop10ms=320 samples, không center-padding, số complete frames là:

Pad lên256 thêm hai frames hằng. Trong log-mel, zero không mặc nhiên là giá trị log-energy của im lặng.

Bài học: waveform duration, valid frames, patch positions và receptive field là bốn khái niệm khác nhau.

B. Vì sao chấm một logit có thể sai ranking?#

MẫuA có $(z_B,z_S)=(7,6)$; mẫuB có $(4,0)$.

• Chấm $z_B$: A cao hơn B.
• Chấm $z_B-z_S$: A=1, B=4.
• Softmax genuine probability: A≈0,731, B≈0,982.

MẫuB được model coi genuine hơn. Logit riêng không bảo toàn thứ tự posterior; logit difference thì có. Điều này chưa chứng minh probabilities calibrated ngoài miền.

C. Accuracy cao vẫn không đủ tốt#

Ví dụ minh họa, không phải số liệu dự án: deployed prior99% genuine,1% spoof. Một hệ có FRR1%, spoof false acceptance10% tại một threshold:

Nếu $C_{miss}=1,C_{fa}=100$:

Always-accept genuine đạt99% accuracy nhưng false acceptance spoof100%, DCF=1. Accuracy cao hơn mà chi phí tệ hơn. Đây là chi phí chưa normalized tại operating point; không suy EER chỉ từ cặp FRR/FAR này.

D. Reconstruction average không chứng minh encoder quên detail#

Với một context $c$, target $t$ nhận±1 với xác suất1/2. Dự đoán squared-loss tối ưu là0, expected loss1. Sampling±1 có thể tạo chi tiết “thật” hơn nhưng expected squared error lớn hơn khi không biết target draw.

Điều suy ra: squared-error decoder có lý do trả conditional mean. Điều không suy ra: encoder không giữ cue khác trong context; hoặc JEPA target giữ±1 trong embedding. Muốn trả lời phải đo representations và thiết kế task, không dùng trực giác output làm định lý encoder.

E. Bằng chứng source shortcut cần gì hơn một plot?#

Giả sử source classifier đọc embedding đoán VCTK/LibriTTS tốt. Ta biết source information decodable. Chưa biết detection head dựa vào nó.

Một thought experiment: thay source–label association trong training, giữ evaluation samples cố định, kiểm decisions đổi thế nào. Phải kiểm đồng thời content, generator, channel, class balance và sample count. Nếu can thiệp nhiều yếu tố cùng lúc, kết luận reliance vẫn bị confounded.

Không cần chạy thí nghiệm này trong buổi học. Mục tiêu là tự nói được quan sát nào phân biệt “có source info” và “dùng source info để quyết định fake”.

3. Câu hỏi và đáp án gợi ý#

Hãy trả lời trước khi đọc cột phải. Mức0=chỉ nhận tên;1=giải thích định nghĩa;2=giải thích cơ chế;3=đưa counterexample và phép kiểm. Nhắm mức2 cho mọi câu và mức3 cho các câu JEPA/evaluation.

4. Mười hiểu nhầm nên tự bắt được#

1. JEPA là tên của một ViT architecture.
2. Non-contrastive chỉ có JEPA; latent prediction xuất hiện lần đầu ở Audio-JEPA.
3. EMA và stop-gradient tự chứng minh không collapse.
4. MAE reconstruction làm mượt nên encoder chắc chắn mất forensic details.
5. Representation isotropic/rank cao chắc chắn hữu ích hơn.
6. Shared-source performance pattern đã chứng minh source bias là nguyên nhân.
7. EER thấp đủ để dùng score như probability.
8. Trainable params thấp đồng nghĩa total inference cost thấp.
9. Thêm dataset/augmentation chắc chắn tăng generalization.
10. Thêm module và giảm EER tự tạo đóng góp đủ mạnh cho hội nghị lớn.

Mỗi hiểu nhầm cần có một counterexample từ các chương trước. Đây là cách biến taxonomy thành hiểu biết, thay vì chỉ nhớ thuật ngữ.

5. Phiếu đọc một paper để tự tổng hợp#

Tên/version/ngày:
Nguồn primary, mức đã đọc:

Task và threat model:
Label definition; output; operating point:
Train / pretrain / dev / final test; overlap:

Input representation, resolution, token geometry:
Encoder / predictor / teacher / backend:
Target source và target type:
Loss; gradient paths; update rules; anti-collapse:
Adaptation và checkpoint selection:

Main claim:
Evidence trực tiếp hỗ trợ:
Những confounds còn lại:
Uncertainty được đo / chưa đo:
Baseline nào có thể giải thích lợi ích mà không cần cơ chế mới:

Một điều mình đã hiểu:
Một điều phải kiểm code/protocol:
Một counterexample:
Một câu hỏi khoa học nảy ra:

Không cần viết abstract bài mới ở bước này. Đích là tách claim của tác giả, evidence paper cho, và suy luận của mình.

6. Từ kiến thức tới một bài mới: taxonomy câu hỏi, chưa chọn hướng#

Một câu hỏi tốt nêu được: đại lượng muốn hiểu → yếu tố thay đổi → yếu tố giữ cố định → competing explanations → observation có thể bác bỏ giả thuyết.

Ví dụ cấu trúc, không phải đề xuất đã chọn: “Ở cùng input/data/budget, thay target type có đổi khả năng đọc cueX ngoài nguồn training hay không, và change đó còn sau khi kiểm channel/speaker không?”

Không cần hứa hẹn SOTA để có câu hỏi khoa học tốt. Nhưng cũng không nên gọi mọi negative result là đóng góp: thiết kế phải trả lời một câu hỏi mới, evidence đủ mạnh và scope có ích cho cộng đồng. Học nền tảng giúp xác định điều đó trước khi tiêu GPU.

7. Bài kiểm tra cuối#

Không nhìn tài liệu, hãy:

• Vẽ pipeline của paper và nói shape ở mọi bước.
• Phân loại 5 SSL models bằng target/source/loss/anti-collapse.
• Phân biệt 5 loại generalization và3 dạng contamination.
• Giải thích vì sao JEPA thắng 3/4 comparisons mà objective claim còn là hypothesis.
• Dùng một historical failure để chỉ ra confound và phép kiểm còn thiếu.
• Viết 3 câu hỏi khoa học từ 3 ô khác nhau của taxonomy, mỗi câu có counterexample.

Nếu làm được, bạn đã có nền để bắt đầu nghĩ bài mới một cách có cơ sở. Nếu chưa, quay lại đúng concept còn vướng; không cần đọc lại toàn bộ từ đầu.

8. Từ điển nhanh Anh–Việt#