현재 위치 - 법률 상담 무료 플랫폼 - 법률 자문 - 단일 및 이중 정밀도란 무엇입니까?
단일 및 이중 정밀도란 무엇입니까?
단일 정밀도 숫자는 컴퓨터가 실수의 근사치를 나타내는 한 가지 방법입니다. VB 에서 Single (단일 정밀도 부동 소수점) 변수는 -3.402823E38 부터-1.401까지의 IEEE 32 비트 (4 바이트) 부동 소수점 값으로 저장됩니다

Double 은 소수 부분이 있는 실수를 나타내는 데 사용되며 일반적으로 과학 계산에 사용됩니다. 8 바이트 (64 비트) 로 저장되며 숫자 범위는1.7e-308 ~1.7e+308 입니다. 배정밀도 부동 소수점 숫자에는 최대 15 또는 16 개의 십진 유효 비트, 배정도가 있습니다.