Dom Razvoj Što je cjelobrojni preljev? - definicija iz tehopedije

Što je cjelobrojni preljev? - definicija iz tehopedije

Sadržaj:

Anonim

Definicija - Što znači prelijevanje cijelog broja?

Prepuna cijelog broja rezultat je pokušaja CPU-a da aritmetički generira broj veći od onoga što se može uklopiti u namjenski memorijski prostor. Aritmetičke operacije uvijek mogu vratiti neočekivane vrijednosti, što može uzrokovati pogrešku zbog koje se cijeli program mora ugasiti. Iz tog razloga, većina programera radije izvodi matematičke operacije unutar okvira iznimke, koji vraća izuzetak u slučaju prepunjenosti cijelog broja.

Cijeli preljev poznat je i kao aritmetički preljev.

Tehopedija objašnjava prelijevanje cijelog broja

Jedan primjer cjelobrojnog preljeva može se dogoditi kada programer ne dopušta pojavljivanje negativnog broja. U ovom slučaju, ako varijabla izvede operaciju što rezultira negativnim brojem, dolazi do preljeva i varijabla se vraća kao pozitivni cijeli broj. Drugi primjer cjelobrojnog preljeva bilo bi dijeljenje broja na nulu, što matematički daje velik broj s beskonačnom vrijednošću.

Ponašanje procesora u slučaju cjelobrojnog preljeva razlikuje se od jednog procesora do drugog. Jedinice za grafičku obradu i digitalni signalni procesori projektirane su za obradu mnogih aritmetičkih uvjeta, uključujući cjelobrojni preljev. U instanci cjelobrojnog preljeva, ti procesori obično vraćaju maksimalni dopušteni broj.

Što je cjelobrojni preljev? - definicija iz tehopedije