Đề 15 – Bài tập, đề thi trắc nghiệm online Học máy

Mạng nơ-ron được thiết kế dựa trên cấu trúc và hoạt động của mạng lưới nơ-ron thần kinh trong bộ não con người, mô phỏng cách các nơ-ron kết nối và truyền tín hiệu để xử lý thông tin.

Dropout là kỹ thuật regularization hiệu quả, đặc biệt trong mạng nơ-ron sâu. Nó ngẫu nhiên loại bỏ một số nơ-ron trong quá trình huấn luyện, giúp mạng nơ-ron học các đặc trưng phân tán và giảm sự phụ thuộc quá mức vào một số nơ-ron cụ thể, từ đó giảm overfitting.

Feature Engineering tập trung vào việc biến đổi và tạo ra các đặc trưng (features) từ dữ liệu thô sao cho chúng phù hợp và hiệu quả nhất cho mô hình học máy, từ đó cải thiện khả năng dự đoán và hiệu suất tổng thể.

Học máy tăng cường hoạt động dựa trên tương tác của `agent′ với môi trường. Agent thực hiện hành động, nhận phản hồi từ môi trường dưới dạng phần thưởng hoặc hình phạt, và học cách tối đa hóa phần thưởng theo thời gian.

Learning rate là siêu tham số quan trọng trong thuật toán Gradient Descent và các biến thể của nó. Nó kiểm soát kích thước bước nhảy trong không gian tham số khi cập nhật trọng số, ảnh hưởng đến tốc độ hội tụ và khả năng tìm được cực tiểu tối ưu.

Hàm mất mát định lượng sai số giữa dự đoán của mô hình và giá trị thực tế. Mục tiêu của huấn luyện mô hình là tối thiểu hóa hàm mất mát, tức là làm cho dự đoán của mô hình càng gần giá trị thực tế càng tốt.

Cross-validation là kỹ thuật đánh giá mô hình bằng cách chia dữ liệu thành nhiều phần, huấn luyện trên một số phần và kiểm tra trên phần còn lại. Nó giúp ước tính khả năng mô hình hoạt động tốt trên dữ liệu chưa từng thấy, đánh giá khả năng khái quát hóa.

Phân tích cảm xúc văn bản (Sentiment Analysis) là ứng dụng NLP, sử dụng học máy để xác định thái độ, cảm xúc thể hiện trong văn bản. Các lựa chọn khác là ứng dụng của học máy trong lĩnh vực khác (tài chính, thị giác máy tính, an ninh).

Overfitting là tình trạng mô hình học quá chi tiết dữ liệu huấn luyện, dẫn đến mất khả năng khái quát hóa trên dữ liệu mới. Mô hình `nhớ` dữ liệu huấn luyện thay vì học quy luật chung.

ROC curve và AUC (Area Under the Curve) là các độ đo hiệu suất phổ biến cho mô hình phân loại nhị phân. ROC curve thể hiện mối quan hệ giữa True Positive Rate và False Positive Rate, còn AUC tóm tắt hiệu suất tổng thể thành một giá trị duy nhất.

K-Nearest Neighbors (KNN) là thuật toán phân loại∕hồi quy dựa trên khoảng cách, không phải kỹ thuật giảm chiều dữ liệu. PCA, LDA, và t-SNE là các phương pháp giảm chiều, giảm số lượng đặc trưng trong dữ liệu.

Chuẩn hóa dữ liệu đưa các đặc trưng về cùng một thang đo (ví dụ: 0-1 hoặc phân phối chuẩn) để các thuật toán dựa trên khoảng cách hoặc gradient descent hoạt động hiệu quả hơn, tránh việc một số đặc trưng lớn lấn át các đặc trưng nhỏ hơn.

Bias-Variance tradeoff là vấn đề cốt lõi trong học máy, liên quan đến việc cân bằng giữa underfitting (bias cao, mô hình quá đơn giản) và overfitting (variance cao, mô hình quá phức tạp). Mục tiêu là tìm mô hình có sự cân bằng tốt để khái quát hóa tốt.

Backpropagation (lan truyền ngược) là thuật toán cốt lõi để huấn luyện mạng nơ-ron. Nó tính toán gradient của hàm mất mát theo trọng số và sử dụng gradient này để cập nhật trọng số, giảm thiểu lỗi và cải thiện hiệu suất mô hình.

Học máy tập trung vào việc cho phép máy tính học từ dữ liệu để giải quyết vấn đề hoặc đưa ra quyết định mà không cần lập trình trực tiếp cho từng trường hợp cụ thể.

Boosting và Bagging là các kỹ thuật Ensemble Learning (học tập kết hợp), kết hợp nhiều mô hình học yếu (weak learners) để tạo ra một mô hình mạnh (strong learner) có hiệu suất tốt hơn. Random Forest (Bagging) và AdaBoost, Gradient Boosting (Boosting) là ví dụ.

Random Forest là thuật toán học máy có giám sát, sử dụng tập hợp các cây quyết định để đưa ra dự đoán. Nó cần dữ liệu huấn luyện có nhãn để học mối quan hệ giữa đặc trưng và nhãn mục tiêu.

Decision Tree là thuật toán học máy cơ bản dựa trên cấu trúc cây quyết định để phân loại hoặc hồi quy. Các lựa chọn khác không thuộc loại thuật toán dựa trên cây quyết định (SVM, Linear Regression, K-means).

Transfer Learning là kỹ thuật tận dụng kiến thức (ví dụ: trọng số mô hình) đã học được từ một bài toán (source task) để cải thiện hiệu suất học tập trên một bài toán khác (target task) có liên quan, đặc biệt khi dữ liệu cho target task hạn chế.

Ma trận nhầm lẫn là công cụ đánh giá hiệu suất mô hình phân loại, hiển thị số lượng dự đoán đúng và sai cho từng lớp. Nó giúp phân tích chi tiết hiệu suất của mô hình phân loại, đặc biệt trong các bài toán phân loại đa lớp.

Sự khác biệt chính giữa các biến thể Gradient Descent nằm ở kích thước batch dữ liệu sử dụng để tính toán gradient và cập nhật trọng số. Batch GD dùng toàn bộ dữ liệu, SGD dùng một mẫu, Mini-batch GD dùng một batch nhỏ.

Transformer Networks, đặc biệt là kiến trúc Transformer, đã cách mạng hóa lĩnh vực Xử lý ngôn ngữ tự nhiên (NLP) với các mô hình như BERT, GPT, nhờ khả năng xử lý hiệu quả các chuỗi dài và nắm bắt ngữ cảnh tốt hơn.

Cả tăng dữ liệu, giảm độ phức tạp mô hình và regularization đều giúp mô hình khái quát hóa tốt hơn, giảm overfitting. Dữ liệu lớn hơn giúp mô hình học quy luật chung, mô hình đơn giản hơn ít `nhớ` dữ liệu huấn luyện, regularization phạt độ phức tạp.

Hàm kích hoạt đưa tính phi tuyến vào mạng nơ-ron, cho phép mạng học các mối quan hệ phức tạp và phi tuyến trong dữ liệu. Nếu không có hàm kích hoạt phi tuyến, mạng nơ-ron chỉ là mô hình tuyến tính.

SVM là thuật toán phân loại mạnh mẽ, tìm siêu phẳng tối ưu để phân tách các lớp dữ liệu. Các lựa chọn khác (K-means, PCA, Linear Regression) phục vụ mục đích khác (phân cụm, hồi quy, giảm chiều).

GANs (Mạng sinh đối kháng) là loại mô hình sinh (generative model) mạnh mẽ, được thiết kế để sinh ra dữ liệu mới có phân phối tương tự như dữ liệu huấn luyện. Ứng dụng phổ biến bao gồm sinh ảnh, nhạc, văn bản, v.v.

SHAP là phương pháp giải thích mô hình học máy, cung cấp giá trị Shapley để định lượng mức độ đóng góp của từng đặc trưng vào dự đoán của mô hình cho từng mẫu dữ liệu cụ thể. Nó giúp làm cho mô hình `hộp đen′ trở nên dễ hiểu hơn.

Đối với bài toán dữ liệu không cân bằng như phát hiện gian lận, các mô hình như Random Forest hoặc Gradient Boosting thường hiệu quả hơn vì chúng ít bị ảnh hưởng bởi sự mất cân bằng lớp và có khả năng xử lý tốt các đặc trưng phức tạp. Các lựa chọn khác không phù hợp (Linear Regression, K-means, PCA).

Precision đo lường độ chính xác của các dự đoán positive. Công thức: True Positives ∕ (True Positives + False Positives). Nó cho biết trong số các mẫu được dự đoán là positive, bao nhiêu phần trăm thực sự là positive.

K-means Clustering là thuật toán phân cụm dữ liệu phổ biến trong học máy không giám sát, tự động nhóm dữ liệu thành các cụm dựa trên độ tương đồng. Các lựa chọn khác là thuật toán học có giám sát hoặc phân loại.