Koti kehitys Mikä on kokonaisluku ylivuoto? - määritelmä techopediasta

Mikä on kokonaisluku ylivuoto? - määritelmä techopediasta

Sisällysluettelo:

Anonim

Määritelmä - Mitä kokonaisluku ylivuoto tarkoittaa?

Kokonaislukujen ylivuoto on seurausta CPU: n yrityksestä generoida aritmeettisesti numero, joka on suurempi kuin mikä mahtuu varattuun muistivarastoon. Aritmeettisilla operaatioilla on aina mahdollisuus palauttaa odottamattomia arvoja, mikä voi aiheuttaa virheen, joka pakottaa koko ohjelman sulkeutumaan. Tästä syystä useimmat ohjelmoijat mieluummin suorittavat matemaattisia toimintoja poikkeuskehyksen sisällä, mikä palauttaa poikkeuksen kokonaisluvun ylivuodon tapauksessa.

Kokonaisluku ylivuoto tunnetaan myös aritmeettisena ylivuodona.

Techopedia selittää kokonaisluvun ylivuodon

Yksi esimerkki kokonaisluvun ylivuodosta voi tapahtua, kun ohjelman kehittäjä ei salli negatiivisen luvun esiintymistä. Jos muuttuja suorittaa operaation, joka johtaa negatiiviseen lukuun, tapahtuu tässä tapauksessa ylivuoto ja muuttuja palautetaan positiivisena kokonaislukuna. Toinen esimerkki kokonaisluvun ylivuodosta olisi jakamalla luku nolla, mikä tuottaa matemaattisesti suuren määrän, jolla on ääretön arvo.

Suorittimen käyttäytyminen kokonaisluvun ylivuodon tapauksessa eroaa prosessorista toiseen. Graafiset prosessointiyksiköt ja digitaaliset signaaliprosessorit on suunniteltu käsittelemään monia aritmeettisia olosuhteita, mukaan lukien kokonaisluku ylivuoto. Kokonaislukuisen ylivuodon tapauksessa nämä prosessorit palauttavat tyypillisesti suurimman sallitun määrän.

Mikä on kokonaisluku ylivuoto? - määritelmä techopediasta