Non-orthogonal Multiple Access (NOMA) has emerged as a key technique in 5G wireless communication networks. This paper studies physical layer security of a NOMA relaying system with a full-duplex relay. This system suffers from the attack of both an eavesdropper and a jammer. The secrecy outage probability is derived in this paper to characterize the performance system of the considered system. The simulation demonstrates that the secrecy outage probability (SOP) of the system increase when increasing the transmit power of the source, the relay and the jammer. The paper also demonstrates the effect of power allocation and channel gains on the secrecy performance of the system. Keywords: physical layer security, secrecy outage probability, NOMA, full-duplex relaying, 5G wireless networks. Tóm tắt. Đa truy nhập phi trực giao đang nổi lên như một kỹ thuật chính trong các mạng vô tuyến 5G. Bài báo này nghiên cứu bảo mật lớp vật lý cho hệ thống chuyển tiếp sử dụng kỹ thuật đa truy nhập phi trực giao với một chuyển tiếp song công. Hệ thống này chịu sự tấn công từ một thiết bị nghe lén và một thiết bị gây nhiễu. Cụ thể, xác suất rớt bảo mật được đưa ra trong bài báo này để đánh giá chất lượng bảo mật của hệ thống được xem xét. Kết quả mô phỏng chỉ ra rằng xác suất rớt bảo mật của hệ thống tăng nếu tăng các giá trị công suất phát của nguồn, của chuyển tiếp và của thiết bị nghe lén. Bài báo cũng chỉ ra sự ảnh hưởng của hệ số phân bổ công suất và các độ lợi kênh truyền đến chất lượng bảo mật của hệ thống.Từ khóa: Bảo mật lớp vật lý, xác suất rớt bảo mật, đa truy nhập phi trực giao, chuyển tiếp song công, hệ thống thông tin di động 5G.

Đa truy nhập phi trực giao đang nổi lên như một kỹ thuật chính trong các mạng vô tuyến 5G. Bài báo này nghiên cứu bảo mật lớp vật lý cho hệ thống chuyển tiếp sử dụng kỹ thuật đa truy nhập phi trực giao với một chuyển tiếp song công. Hệ thống này chịu sự tấn công từ một thiết bị nghe lén và một thiết bị gây nhiễu. Cụ thể, xác suất rớt bảo mật được đưa ra trong bài báo này để đánh giá chất lượng bảo mật của hệ thống được xem xét. Kết quả mô phỏng chỉ ra rằng xác suất rớt bảo mật của hệ thống tăng nếu tăng các giá trị công suất phát của nguồn, của chuyển tiếp và của thiết bị nghe lén. Bài báo cũng chỉ ra sự ảnh hưởng của hệ số phân bổ công suất và các độ lợi kênh truyền đến chất lượng bảo mật của hệ thống.