CNN: Một khám phá về Thành tựu của Deep Learning
CNN (Convolutional Neural Network) là gì? Trong lĩnh vực Deep Learning, CNN là một mô hình tiên tiến giúp chúng ta xây dựng hệ thống thông minh với độ chính xác cao. Nhờ vào thuật toán này, các công ty công nghệ hàng đầu như Facebook, Google, và Amazon đã tích hợp những chức năng thông minh vào sản phẩm của mình, bao gồm việc nhận diện khuôn mặt, phát triển ô tô tự lái, và giao hàng tự động bằng drone.
CNN thường được áp dụng rộng rãi trong các bài toán nhận dạng các đối tượng trong ảnh. Để hiểu tại sao thuật toán này lại được ưa chuộng trong việc nhận dạng (detection), chúng ta hãy cùng khám phá cấu trúc và nguyên tắc hoạt động của CNN.
Tìm hiểu về Convolutional Neural Network
Convolution (tạm dịch là tích chập) là một phép toán trên ma trận. Các convolutional layer của CNN được học với các ma trận (kernel) để trích xuất thông tin quan trọng mà không cần chọn lọc đặc trưng.
Ví dụ, trong hình ảnh mô phỏng dưới đây, ma trận bên trái là một hình ảnh đen trắng được số hóa. Ma trận có kích thước 5x5 và mỗi điểm ảnh có giá trị 1 hoặc 0 là giao điểm của dòng và cột.
Các convolutional layer kết hợp với ma trận kernel để phân tích và lấy ra những thông tin quan trọng nhất. Quá trình convolution được thực hiện bằng cách nhân từng phần tử trong ma trận kernel với ma trận ảnh ban đầu. Kết quả của phép tích chập này được gọi là Convolved feature, chứa các thông tin quan trọng đã được trích xuất từ ảnh ban đầu.
Cấu trúc mạng CNN
Mạng CNN là một tập hợp các lớp Convolution chồng lên nhau và sử dụng các hàm kích hoạt non-linear như ReLU và tanh để kích hoạt các trọng số trong các nơ-ron. Mỗi lớp sau khi thông qua các hàm kích hoạt sẽ tạo ra các thông tin trừu tượng hơn cho các lớp tiếp theo.
Mạng CNN sử dụng cơ chế convolution để liên kết các lớp với nhau. Lớp tiếp theo sẽ nhận kết quả convolution từ lớp trước, tạo ra các kết nối cục bộ. Tức là mỗi nơ-ron ở lớp kế tiếp sinh ra từ kết quả của filter áp dụng lên một vùng ảnh cục bộ của nơ-ron trước đó.
Mỗi lớp sử dụng nhiều filter khác nhau, thường có hàng trăm hoặc hàng nghìn filter và kết hợp kết quả của chúng lại. Bên cạnh đó, mạng CNN còn sử dụng lớp pooling/subsampling để lọc lại các thông tin hữu ích và loại bỏ các thông tin nhiễu.
Trong quá trình huấn luyện mạng CNN, các giá trị của các tham số sẽ được tự động học qua các layer filter dựa trên dữ liệu huấn luyện. Ví dụ, trong tác vụ phân loại ảnh, CNN sẽ cố gắng tìm ra các tham số tối ưu cho các filter theo thứ tự từ pixel đơn giản, cạnh, hình dạng, khuôn mặt, cho đến các đặc trưng cấp cao. Layer cuối cùng của mạng được sử dụng để phân loại ảnh.
Trong mô hình CNN, có hai khía cạnh quan trọng mà chúng ta cần quan tâm là tính bất biến (Location Invariance) và tính kết hợp (Compositionality). Tính bất biến giúp mạng CNN tự động thích ứng với các biến đổi như dịch chuyển (translation), xoay (rotation), và co giãn (scaling). Tính kết hợp cho phép mạng tổng hợp thông tin từ mức thấp đến mức cao và trừu tượng hơn thông qua việc áp dụng convolution với các filter.
Đây chính là lý do tại sao mạng CNN có độ chính xác cao và tiếp cận phương pháp nhận dạng vật thể như con người.
Mạng CNN sử dụng 3 ý tưởng cơ bản:
- Các trường tiếp nhận cục bộ (local receptive field)
- Trọng số chia sẻ (shared weights)
- Tổng hợp (pooling)
Thể hiện sự bất biến và kết hợp của mạng CNN, các lớp Convolution sử dụng trường tiếp nhận cục bộ để kết nối các neuron đầu vào và neuron ẩn. Thông qua việc dùng trọng số chia sẻ và tổng hợp, mạng CNN rút trích được các đặc trưng quan trọng từ ảnh và giảm thiểu số lượng neuron cần xử lý.
Cách chọn tham số cho CNN
Việc lựa chọn các tham số quan trọng cho CNN quyết định đến hiệu suất của thuật toán. Dưới đây là một số điểm quan trọng cần lưu ý:
-
Số lượng layer convolution: Việc tăng số lượng layer convolution cải thiện đáng kể hiệu suất của mạng CNN. Tuy nhiên, sau khoảng 3 hoặc 4 layer, hiệu ứng cải thiện sẽ không đáng kể.
-
Kích thước filter: Thông thường, filter có kích thước 5x5 hoặc 3x3.
-
Kích thước pooling: Kích thước pooling thường là 2x2 hoặc 4x4 cho ảnh đầu vào lớn.
-
Quá trình train-test: Để tìm ra tham số tối ưu cho mạng CNN, cần thực hiện nhiều lần quá trình train-test để chọn ra tham số tốt nhất.
Hy vọng với những kiến thức đã trình bày, bạn đã hiểu rõ hơn về CNN là gì, cấu trúc mạng CNN và cơ bản về mô hình CNN trong machine learning. Chúc bạn có thêm những kinh nghiệm bổ ích cho sự phát triển của mình trong lĩnh vực lập trình!
