회로의 비선형성이 고려된 시스템에서의 자가간섭 제거 방법 및 장치가 개시된다. 개시된 자가간섭 제거 방법은 샘플을 수신하는 단계; 상기 샘플을 순환행렬로 표현하는 단계; 상기 순환행렬을 대각화하는 단계; 상기 대각화를 통해 자가간섭 계수를 추정하는 단계; 및 상기 추정된 자가간섭 계수를 제거하는 단계를 포함하되, 상기 자가간섭 계수는 주파수 축에서 추정되는 것을 특징으로 한다. 개시된 자가간섭 제거 방법에 따르면, 시스템 변화 없이 모듈을 추가하는 것만으로도 자가간섭 제거가 가능한 장점이 있다.