소프트웨어 공학용 수학 3일차

실수 - 유리수와 무리수로 이루어진 수 체계

 

정수의 이진법 표기의 한계->기본적인 방법으로는 소수점 이하 숫자 표현이 어려움

ex)10진수의 0.1을 2진수로 반환하면 무한루프에 빠져 패턴이 반복되다 할당된 메모리를 넘으면 비트가 끊김

=끊긴 비트로 인한 오차로 문제 발생가능성있음.

=>부동 소수점 수(IEEE 754)의 표준화 / 고정 소수점 수도 사용(자주는 아님, 사용가능성은 있음)

 

고정 소수점은 정확하게 몇자리인지 알수있음 = 은행에서 사용

부동 소수점은 정밀하지 못함 = 은행에서 사용이 부적합 그러나, 대부분의 상황에서 문제X

ex)게임에서 파티클을 표현하는데 조금의 오차는 문제X

 

정규화

ex)110.1101011 = (+1) * 1.1101101011*2(2)

ex)-0.00101 = (-1) * 1.01 * 2(-3)

 

부동소수점에서는 음수 표현을 부호 절대값 방식을 사용하여 표현

32비트 부동 소수점의 구조(1비트-부호)/(8비트-지수)/(23비트-가수)

부동소수점 처리방식에 대한 정리