반응형

overflow 4

C언어 형식[ehpub.co.kr 캐스팅]

C언어 형식[ehpub.co.kr 캐스팅][디딤돌 C언어 ] 9. 기본 형식(TYPE)언휴) 데이터를 기록하는 메모리는 유한 자원이란다. 그래서 형식을 약속했지!학생) 그럼 형식에는 필요한 메모리 크기와 표현할 수 있는 범위가 정해지겠네요.언휴) 그런데 실수는 0에서 1 사이에도 무수히 많은 수가 있어서 오차 범위가 있어. 학생) 그럼 실수를 사용할 때는 정확한 값이란 생각보다 근사값으로 이해해야겠어요."형식에는 필요한 메모리 크기와 표현할 수 있는 범위가 정해집니다."[디딤돌 C언어 ] 10. 정수 형식과 표현 범위학생1) 정수 형식이 왜 이렇게 많아? 학생2) 목적에 맞게 필요한 메모리를 할당받아 사용할 수 있게 표현 범위에 따라 약속한거야."형식은 목적에 맞게 메모리를 할당받아 사용할 수 있게 표현..

[C언어 무료 동영상 강의] 16. char 형식으로 정수 표현, 형변환 17. 정수 형식의 표현범위 18.overflow값 잘림 현상

[C언어 무료 동영상 강의] 16. char 형식으로 정수 표현, 형변환 17. 정수 형식의 표현범위 18.overflow와 값 잘림 현상 다루는 내용 char 형식으로 정수 표현묵시적 형변환과 명시적 형변환정수 형식의 표현 범위 overflow와 underflow본문16. char 형식으로 정수 표현, 형변환17. 정수 형식의 표현 범위18. Overflow와 값 잘림 현상 앞으로 프로그래밍 관련 글은 새롭게 개설한 언제나 휴일 전용 사이트에서 만나보세요. 2017년 1월 1일까지 이 곳의 프로그래밍 자료는 http://ehpub.co.kr 로 옮길 예정입니다.

[안드로이드] 13. Java - 정수형

정수형 Java 언어에서는 정수를 표현하기 위한 형식으로 byte, short, int ,long 형식을 제공합니다. byte 형식은 1바이트의 메모리를 사용하며 short는 2바이트, int는 4바이트, long은 8바이트를 사용합니다. 1bit로 0과 1을 표현할 수 있어서 1바이트(8비트)로 표현할 수 있는 가지 수는 2의 8승인 256가지입니다. Java 언어에서 정수 형식은 2진 보수 표기 방식으로 부호 있는 수를 표현하므로 byte 형식으로 표현할 수 있는 정수는 -128~127입니다. 2진 보수 표기 방식은 첫 번째 비트가 0이면 부호가 없는 수이며 나머지 비트를 크기를 나타냅니다. 즉 8비트 메모리에 0010 0011 값이 있으면 1의 5승 + 1의 1승 + 1의 0승의 크기를 갖는 35를..

18. Overflow와 값 잘림 현상

18. Overflow와 값 잘림 현상 만약 정수 형식에서 표현할 수 있는 범위를 벗어나는 연산을 수행하면 어떻게 될까요? 표현 범위를 벗어날 때 처리하는 방식은 프로그래밍 언어마다 달라요. C언어에서는 표현 범위를 벗어나도 프로그램은 예외를 발생하지 않고 동작해요. 물론 연산 결과는 개발자가 원하는 결과가 아닌 엉뚱한 값이 되겠죠. 이처럼 연산 결과가 표현 범위의 벗어나는 것을 오버플로우(overflow)라고 불러요. 좀 더 세분화하면 최대값을 넘어서는 것을 오버플로우, 최소값보다 작아지는 것을 언더플로우(underflow)라고 부르죠. 예를 들어 char 형식 변수 c1에 127(16진수 0x7F)로 설정한 후에 1을 더하면 오버플로우가 발생해요. 이 때 연산 결과는 -128(16진수 0x80)이예요..

반응형