Иоганн Фридрих Карл Гаусс родился в Брауншвейге, главном городе герцогства Брауншвейг-Вольфенбюттель, 30 апреля 1777 года. Он был единственным сыном Гебхарда Дитриха Гаусса, родившегося в 1744 году, и Доротеи Бенце. У его отца уже был сын от предыдущего брака. Гаусс никогда не использовал своего первого имени Иоганн и поменял местами следующие два: свои работы он подписывал как Карл Фридрих Гаусс и под этим именем и стал известен позже.
Дом Гауссов стоял на маленькой улице под названием Верденграбен. Позже его семья переехала в дом номер 30 по Вильгельмштрассе — улице, находившейся рядом с городским каналом, с которым связана одна из самых известных историй из детства математика. Когда ему было три или четыре года, мальчик упал в воду канала, но, к счастью, был сразу же спасен проходившим мимо крестьянином. Математическая наука в неоценимом долгу перед этим неизвестным человеком.
Родственники со стороны отца Гаусса были мелкими фермерами и переехали в Брауншвейг около 1740 года. Для семьи это означало надежду на процветание и лучшее будущее в то время, когда старый немецкий феодализм сменялся новым абсолютистским правительством. Однако процветание давалось нелегко: гильдии, которые с эпохи Средневековья контролировали деятельность ремесленников, сохранили свою власть и не допускали чужаков к активному предпринимательству Отец Гаусса поначалу был вынужден зарабатывать на жизнь как садовник, уличный мясник и бухгалтер в похоронном бюро. Семья поставила себе задачу приобрести собственный дом в черте города, что дало бы им доступ ко всем гражданским правам. Своей цели Гауссы достигли, однако через некоторое время после этого их мир перевернулся с ног на голову, и обычный уклад вновь был нарушен: Брауншвейг был завоеван войсками Наполеона.
Известно, что отец Гаусса был человеком резким, чрезвычайно порядочным, его строгость по отношению к сыну часто граничила с грубостью. Порядочность и упорство позволили Гауссу-старшему добиться некоторого бытового комфорта, но жизнь семьи не была легкой. Родитель не поддерживал стремление сына заниматься наукой и даже не понимал, как важно для него было получить образование, соответствующее способностям мальчика. Если бы мнение отца возобладало, талантливый юноша занялся бы одной из семейных профессий, и только ряд счастливых совпадений спас будущего математика от участи простого садовника или каменщика. В детстве Карл Фридрих был очень послушным. Он никогда не критиковал своего отца, но вполне ожидаемо, что и настоящей привязанности к нему не чувствовал. Гебхард Гаусс умер в 1806 году.