본 학위논문에서는 차세대 무선통신을 위한 OTFS 시스템을 소개한다. OTFS 시스템은 CP 삽입 방식에 따라 CP-OTFS와 RCP-OTFS가 존재하고 두 시스템의 송수신 신호에 대해 기술한다. 또한, OTFS 시스템에서 시간 영역에서의 채널 추정 방법에 대해 제시한다. 추정한 채널을 이용하여 선형필터와 Gauss-Seidel 알고리즘을 이용한 디코딩 알고리즘에 대해 서술한다. 선형 필터 알고리즘을 이용하여 OTFS 시스템의 각 영역에서 MMSE필터를 적용하는 방법을 제시하고, 반복법을 사용하는 Gauss-Seidel 알고리즘의 적용에 대해 소개한다. 전산 실험 결과는 Gauss-Seidel 알고리즘 기반의 디코딩 알고리즘이 다른 알고리즘과 비교해 CP-OTFS와 RCP-OTFS 시스템에서 모두 우수한 성능을 보이는 것을 보여준다. 동일한 채널추정과 디코딩 알고리즘 방식 하에서 CP-OTFS가 RCP-OTFS에 비해 근소한 신호 대 잡음비 이득을 얻는 것을 보여준다.