금융및 건축설계등 정밀계산이 요구되는 작업을 컴퓨터로 할 때는
소수점이하를 버리고 정수값만을 취하는 명령을 내릴때 주의해야할
것으로 나타났다.

미 MS사의 윈도95에 포함돼 있는 공학용계산기를 쓰면서 "INT"명령을쓸
경우 일부계산에서 틀린 답이 나온다는 사실이 이달 중순부터 하이텔등
일부 PC통신에 게재되면서 윈도95에 일부 오류가 있는것으로 알려졌으나
이는 모든 숫자를 2진법으로 처리하는 컴퓨터의 특성에서 비롯된 일반적인
오류인 것으로 밝혀졌다.

따라서 윈도95 이외의 다른 운영체계에서도 계산할때 이같은 오류가
나타나 프로그래머들은 INT명령을 쓰는데 주의해야할 것으로 지적됐다.

윈도95의 공학용계산프로그램으로 0.57 X 100=57을 계산한 후 "정수값만을
취하라"는 명령인 "INT"버튼을 누르면 정답인 57이 아닌56이 나온다는
것이다.

그러나 서울대 컴퓨터공학과 하순회교수는 이날 "선의 워크스테이션에서도
같은 계산을 했더니 마찬가지 오류가 나타났다"며 "2진법으로 모든 숫자를
완벽히 표현할 수 없기 때문에 생기는 오래전부터 알려진 오류"라고
설명했다.

그는 그러나 "일반적인 공학용계산기의 경우 보통 10진법으로 계산하도록
돼있기 때문에 이같은 문제는 없다"며 "컴퓨터에서도 프로그래밍으로
해결할 수 있는 문제"라고 밝혔다.

특히 공학용계산에서 INT명령을 쓰는 경우가 현실적으로 거의 없어 큰
문제가 아니라고 덧붙였다.

한국MS는 이에대해 "컴퓨터상의 일반적인 오류"라며 "공학용계산
프로그램마다 유효숫자를 어느정도까지 잡느냐에 따라 값이 달라질 수
있다"고 해명했다.

<오광진기자>

(한국경제신문 1996년 9월 25일자).