소프트웨어 공학용 수학 3일차
·
수학/소프트웨어 공학용 수학
실수 - 유리수와 무리수로 이루어진 수 체계 정수의 이진법 표기의 한계->기본적인 방법으로는 소수점 이하 숫자 표현이 어려움 ex)10진수의 0.1을 2진수로 반환하면 무한루프에 빠져 패턴이 반복되다 할당된 메모리를 넘으면 비트가 끊김 =끊긴 비트로 인한 오차로 문제 발생가능성있음. =>부동 소수점 수(IEEE 754)의 표준화 / 고정 소수점 수도 사용(자주는 아님, 사용가능성은 있음) 고정 소수점은 정확하게 몇자리인지 알수있음 = 은행에서 사용 부동 소수점은 정밀하지 못함 = 은행에서 사용이 부적합 그러나, 대부분의 상황에서 문제X ex)게임에서 파티클을 표현하는데 조금의 오차는 문제X 정규화 ex)110.1101011 = (+1) * 1.1101101011*2(2) ex)-0.00101 = (-1)..