Nâng cao hiệu năng của DEEP LEARNING trong hệ thống tính toán hiệu năng cao CRAY-XC40

Tóm tắt

Deep Learning (DL) đang trở thành một công cụ quan trọng cho nghiên cứu và được ứng dụng vào nhiều lĩnh vực khác nhau trong cuộc sống. Ứng dụng DL trong bài báo dự báo, cảnh báo liên quan đến khí tượng thủy văn đang là một hướng nghiên cứu tiềm năng và có nhiều thách thức. Với lượng dữ liệu đầu vào lớn và yêu cầu dự đoán nhanh tức thời, tính chính xác cao là những điểm khiến cho mạng nơ ron trong DL trở nên phức tạp và bị hạn chế trong hiệu suất tính toán, thời gian tính toán bị kéo dài so với yêu cầu nghiệp vụ dự báo, cảnh báo thực tế. Tính toán hiệu năng cao (High Performance Computing - HPC) với số lượng nút tính toán lớn được sử dụng để giải quyết các vấn đề hạn chế của DL trong bài toán dữ liệu lớn. Hãng Cray đã cung cấp một module cắm (Cray Programming Environments DL Plugin – Cray PE DL Plugin) cho phép lập trình DL trên môi trường song song cho tính toán hiệu năng cao. Trong bài báo này, nghiên cứu trình bày phương pháp thiết lập cấu hình mạng nơ ron trong DL sử dụng Tensorflow trên nền tảng Cray-XC40.