Edge AI là gì? Vai trò của Edge AI cho các ứng dụng AIoT

Sự thay đổi công nghệ nhanh chóng đã đưa chúng ta đến gần hơn với một thế giới trí tuệ nhân tạo – AI tiên tiến. Nhưng Edge AI là gì? Edge AI kết hợp các cấp độ khác nhau của các giải pháp và công nghệ máy tính, trong đó mục tiêu chính của nó là lưu trữ, xử lý và quản lý dữ liệu trực tiếp tại các điểm cuối đối với trí thông minh của máy. Cuối cùng, sự gia tăng của công nghệ AI tiên tiến sẽ tác động đáng kể đến việc số hóa dữ liệu cho các doanh nghiệp tập trung vào các ứng dụng công nghiệp. Bài viết này sẽ giúp bạn hiểu Edge AI là gì và tác động trực tiếp của nó đến ứng dụng AIoT.

Edge AI là gì?

Edge AI là sự hợp nhất của điện toán biên và trí tuệ nhân tạo (AI). Theo định nghĩa đơn giản, các hệ thống Điện toán biên – Edge computing tập hợp và xử lý dữ liệu cục bộ mà không phụ thuộc vào đám mây để cung cấp tài nguyên cho nó. Nó chạy các thuật toán máy học để thu thập, lưu trữ và xử lý dữ liệu một cách hiệu quả, cho phép đưa ra các quyết định theo thời gian thực chỉ trong vòng vài mili giây. Khả năng xử lý mili giây nhường chỗ cho một loạt các ứng dụng điện toán biên sẽ được hưởng lợi từ độ trễ thấp hơn. Do đó, AI cạnh đề cập đến các thuật toán Trí tuệ nhân tạo chạy phân tích nâng cao để xử lý thời gian thực và tự động hóa để có thông tin chi tiết. Edge AI không có nghĩa là sẽ vượt qua đám mây về khả năng học sâu của nó nhưng sẽ cung cấp một làn sóng mới về trí thông minh máy móc ngay tại nguồn. Điểm mấu chốt, AI tiên tiến cho phép ra quyết định theo thời gian thực cho các ứng dụng quan trọng, một bước quan trọng để chuyển việc triển khai công nghiệp sang tự động hóa quy mô toàn diện.

Background của Edge AI – Sự di chuyển từ Cloud sang Edge

Sự phát triển của AI bắt nguồn từ các trung tâm dữ liệu khổng lồ, nơi lượng dữ liệu theo cấp số nhân được cung cấp cho các thuật toán AI để học sâu; đây là cách các mô hình học máy được đào tạo để phát triển trí thông minh. Ngày nay, hầu hết các ứng dụng AI vẫn chạy trên đám mây do nguồn tài nguyên khổng lồ của chúng; Nhưng với sự ra đời của điện toán biên – Edge computing, nhiều mô hình học máy đang được đẩy ra gần hơn với việc tạo dữ liệu cho mục đích truyền thông. AI chạy trên đám mây có thể xử lý một số ứng dụng AI đơn giản như hỗ trợ và nhận dạng giọng nói. Tuy nhiên, các ngành công nghiệp khác nhau yêu cầu các giải pháp AI phức tạp hơn để quản lý các thiết bị IoT của họ. Hơn nữa, sự gia tăng của các thiết bị IoT và sự gia tăng nhu cầu về điện toán thời gian thực (Real-time Computing) đã bắt đầu một cuộc di chuyển AI từ đám mây sang biên.

Chạy các ứng dụng AI trên đám mây gây ra rủi ro thời gian chết cao hơn cho các ứng dụng nhạy cảm với thời gian, nơi băng thông và độ trễ là yếu tố quan trọng. Tuy nhiên, nhờ thế hệ vi xử lý mới, các thuật toán AI tiên tiến có thể chạy với tốc độ, độ chính xác và hiệu quả cao hơn. Edge AI sử dụng các mô hình Học máy đã được đào tạo ở biên để giảm bớt độ trễ dữ liệu và các yêu cầu về băng thông. Ngoài ra, tính toán Edge AI cho phép các ngành khác nhau cải thiện hiệu quả bằng cách giảm sự can thiệp của con người thông qua tự động hóa. Nhìn chung, Edge AI đã tác động đến thế mạnh công nghiệp nhờ khả năng cho phép xử lý dữ liệu thời gian thực và đưa ra quyết định với độ trễ thấp hơn.

Edge AI và Kiến trúc điện toán đám mây AI (Cloud AI Computing)

Điện toán đám mây như một trung tâm hoặc kho lưu trữ từ dữ liệu đến, thường là từ các thiết bị và cảm biến IoT. Sau khi dữ liệu được lưu trữ trên đám mây, đây là nơi các thuật toán học máy, các mô hình học sâu của chúng hoạt động để tạo sự thông minh. Nhưng một nhược điểm của đám mây là khoảng cách vật lý với nơi các cảm biến IoT được triển khai bởi vì thiết bị IoT được lắp đặt mọi nơi, đôi khi ở những vùng có điều kiện môi trường khắc nghiệt. Mặc dù Cloud đã được chứng minh là có lợi, nhưng vẫn có một số trở ngại liên quan đến suy luận và ra quyết định theo thời gian thực. Thứ nhất, dữ liệu thô từ các cảm biến ở biên yêu cầu băng thông internet cao để đo từ xa tới đám mây. Thứ hai, tổng lưu lượng dữ liệu từ hàng triệu thiết bị biên chuyển dữ liệu trở lại đám mây. Hơn nữa, các trường hợp ở một môi trường từ xa với kết nối internet không ổn định.

Máy tính Edge AI – Giúp thoát khỏi đám mây để cung cấp băng thông tốt hơn và độ trễ thấp hơn

Tóm lại, Edge AI thuận lợi hơn nhiều cho các ứng dụng yêu cầu tài nguyên tính toán thời gian thực và độ trễ thấp. Thực hiện AI ở biên cho phép các hoạt động tất cả trong một, thời gian thực, bao gồm ra quyết định, tạo dữ liệu và lưu trữ dữ liệu trong cùng một thiết bị. Edge AI thay đổi các mô hình AI từ đám mây đến biên (Edge) với rìa hơn bằng cách sử dụng mô hình hội nghị. Quá trình học máy và trí thông minh khá tốn tài nguyên đòi hỏi tài nguyên của đám mây; các thuật toán học sâu được cung cấp dữ liệu và cuối cùng là đào tạo Deep Neural Network (DNN). Sau khi framework cho DNN được thiết lập, nó có thể được triển khai ở rìa để suy luận. Nói cách khác, một khi máy tính thu thập tất cả dữ liệu của một đối tượng từ các cảm biến, nó sẽ sử dụng tất cả dữ liệu đầu vào của nó để đưa ra các dự đoán chính xác. Việc triển khai một thuật toán học sâu tại local cho phép phân tích thời gian thực với độ trễ giảm xuống đến vài mili giây. Ngoài ra, các mô hình Edge AI làm giảm yêu cầu băng thông internet, dẫn đến giảm chi phí truyền dữ liệu qua đám mây và ngược lại.

Xu hướng Edge AI

5G

5G đã phát triển vượt bậc và được biết đến với khả năng cung cấp băng thông rộng di động nâng cao (Enhanced mobile broadband – eMBB), giao tiếp độ trễ cực thấp (ultra-low latency communication – uRLLC) và Machine-Type Communications (mMTC). Một yếu tố quan trọng từ 5G sẽ giúp định hình nhiều ứng dụng Edge AI hơn là phổ mmWave của nó cho phép độ trễ thấp <1ms với độ tin cậy 99,999%. Tốc độ kết nối không dây 5G tốc độ cao sẽ cho phép các Máy tính Edge AI thực hiện AI nhanh hơn nhiều bằng cách loại bỏ tắc nghẽn băng thông mà các hệ thống đám mây truyền thống trước đây mắc phải.

Mô hình Học máy – Machine Learning

Trong suốt quá trình nghiên cứu và phát triển các thuật toán học máy ngày càng hiệu quả và chính xác hơn nhiều. Các mô hình học máy hiệu quả hơn cho phép áp dụng AI với sức mạnh tính toán thấp hơn nhiều. Một số phương pháp như cắt tỉa, chia sẻ trọng lượng, lượng tử hóa và chuyển đổi Winograd đã cho phép các mô hình AI công suất thấp chạy hiệu quả trong khi vẫn duy trì độ chính xác của các dự đoán của chúng. Với các mô hình học máy hiệu quả, Edge AI có thể thực hiện các mô hình AI phức tạp khác nhau ở biên với sức mạnh tính toán thấp hơn nhiều so với việc chạy chúng trên đám mây.

Tăng lượng dữ liệu do IoT tạo ra

Sự gia tăng theo cấp số nhân của các thiết bị IoT đang đẩy giới hạn của băng thông internet khi dữ liệu cần được chuyển lên đám mây. Để khắc phục tình trạng tắc nghẽn băng thông, Edge AI quản lý dữ liệu cục bộ trong thiết bị và chỉ gửi dữ liệu thiết yếu lên đám mây để phân tích thêm, dẫn đến luồng dữ liệu nhanh hơn, hiệu suất cao và tăng độ tin cậy.

Nhu cầu công nghiệp

Để duy trì tính cạnh tranh trong các giải pháp công nghiệp đang phát triển mạnh mẽ, các công ty áp dụng nhiều công nghệ đột phá khác nhau, bao gồm cả Edge AI để tăng sản lượng của họ trong khi giảm tổng chi phí sở hữu. Ví dụ, tự động hóa công nghiệp có thể tăng đáng kể hiệu quả tổng thể của dây chuyền lắp ráp bằng cách áp dụng Thị giác máy – Computer vision. Các nhà sản xuất có thể sử dụng các máy tính tối tân được kết nối với camera tốc độ cao và cảm biến hồng ngoại để tự động hóa dây chuyền lắp ráp. Với thị giá máy, các nhà sản xuất có thể nhanh chóng phát hiện ra các khuyết tật từ hàng nghìn sản phẩm. Ngoài ra, các máy tính Edge AI này được trang bị bộ tăng tốc AI mạnh mẽ như GPU và VPU để cung cấp tầm nhìn máy thời gian thực ở biên. Do đó, nhiều ứng dụng công nghiệp đang áp dụng Edge AI hơn để duy trì lợi thế cạnh tranh của họ.