해양분야 인공지능 안전을 위한 위험성 평가 방법에 관한 연구

Abstract

최근 해양 분야는 해상의 안전과 환경보호, 물류의 효율화를 위하여 다양한 규제를 강화함과 동시에 ICT 기술을 적극적으로 도입하고 있다. 특히 4차 산업혁명과 인공지능의 발전은 해양 분야에서도 자율운항선박의 도입을 앞당기고 있으며, IMO에서는 자율운항선박을 위한 신규 강제 요건인 “MASS Code”의 제정과 도입을 예고하고 있다. 이러한 자율운항선박의 안전한 항해를 위해서는 선박에 탑재되는 다양한 시스템들에 대한 안전이 보장되어야 한다. 시스템의 안전을 확보하기 위해 자동차나 철도 분야 등에서는 산업 분야의 특성에 맞는 별도의 표준을 마련하여 시스템의 요구사항을 도출하는 순간부터 안전 요구사항을 식별하고, 시스템을 개발하는 전 과정에서 안전 요구사항을 만족하는지 확인하는 과정을 거치도록 요구하고 있다. 특히 자동차 분야에서는 최근에 자율주행 자동차가 활성화됨에 따라 소프트웨어 시스템의 내부 기능에 실패가 없음에도 불구하고 센서나 주변 환경에 의해 오류가 발생하는 상황에 대응하기 위한 표준을 새롭게 마련하기에 이르렀다. 해양 분야에서는 선체의 구조 및 시설물에 대한 안전이나 운영에 대한 안전을 위한 규정은 다양하게 마련되어 안전을 확보하도록 요구하고 있으나, 소프트웨어 시스템에 대한 안전을 확보하기 위해서 더 관심과 노력이 필요한 상황이다. 자동차 분야에서는 자율주행 자동차가 도입됨에 따라 차량 소프트웨어 시스템에 인공지능이 도입되기 시작하였고, 소프트웨어 시스템의 내부 기능에 실패가 없음에도 불구하고 센서나 주변 환경에 의해 오류가 발생하는 상황에 대응하기 위한 새로운 표준인 ISO 21448(SOTIF)을 새롭게 제정하였으며, 위험성 평가 방법을 이용하여 주변 환경에 의해 오류가 발생하는 상황을 도출하는 방법을 제시하였다. 소프트웨어 시스템의 안전을 확보하기 위해서는 시스템을 기획하는 단계에서부터 잠재적인 위험이 어떤 것인지 찾아내고, 그 위험에 대처할 수 있도록 시스템을 설계하고 구현해야 한다. 특히 잠재적인 위험을 식별하고 평가하는 체계적인 방법인 위험성 평가 방법은 소프트웨어 시스템의 안전을 확보하기 위한 첫걸음이라 할 수 있다. 시스템의 잠재적인 위험을 찾아내는 단계에서 주로 활용하고 있는 전통적 위험성 평가 방법은 시스템의 특정 컴포넌트가 사고의 원인이라는 전제로 하는 경우가 일반적이다. 하지만, 시스템의 규모가 커지고 복잡해지면서 사고를 유발할 수 있는 요인들이 시스템뿐만 아니라 여러 시스템 외적인 요인들이 결합하여 발생함에 따라 위험을 복합적인 시각에서 분석하는 STPA 방법이 고안되었다. 이 논문에서는 자율운항선박의 도래에 맞추어 고도로 지능화된 시스템 및 인공지능 기술이 포함된 시스템에 대해 내부의 고장, 사람, 환경요소, 인공지능의 특성, 데이터 품질 관점에서 위험을 효율적으로 식별하고 평가하는 방법을 제안한다. 제안하는 방법을 통해 해양 분야의 소프트웨어 시스템에 대한 안전을 확보하고, 나아가 자율운항선박의 안전한 항해를 위한 첫걸음이 될 수 있을 것이다.