부동소수점오차 썸네일형 리스트형 [게임수학_01] 부동소수점 컴퓨터에서 실수를 표현하는 방법은 정수의 경우보다 더 많은 과정을 거쳐야한다. 실제로 데이터 오류를 줄이기 위해 분기나 조건을 걸 경우 정수를 쓰는 것을 지난 포스트에서 추천했다. 실수를 2진수로 표현하기 위해 이런저런 방법들이 연구되었으며 이번 포스트에서 중점적으로 다룰 부동소수점도 그 중 하나이다. 우선 고정 소수점에 대해서 알아보자면 아래와 같다. 고정 소수점 방식은 비교적 간단한 방법으로 소수부의 자릿수를 미리 정하여 고정된 자릿수의 소수를 표현하는 것이다. 하지만 이 방식은 정수부와 소수부의 자릿수가 작아 표현할 수 있는 범위도 적다. 그렇다면 부동소수점은 어떨까. 부동소수점 대체적으로 "부"라는 글자가 가지는 선입견 때문인지 不動 으로 알고 있는 사람이 있는데 부유와 같은 자를 써 浮動 이다... 더보기 이전 1 다음