부동 소수점과 정밀도

부동 소수점과 정밀도

1. 개요(Outline)

컴퓨터는 내부적으로 0과 1, 두 가지만 활용해 모든 것을 표현합니다. 숫자의 표현 또한 마찬가지입니다. 사람은 일반적으로 숫자 표현에 10진법을 사용하지만, 컴퓨터는 0과 1만을 사용해야 한다는 제약 때문에 2진법을 채택해야 합니다. 이때 표현하고자 하는 숫자가 정수인지 아닌지에 따라 처리 방식이 크게 나뉩니다. 이번 포스팅에서는 컴퓨터의 숫자 표현 방법, 그 중에서도 부동 소숫점을 집중적으로 다룹니다.

자세히 보기