１９００年１月１日、岐阜県加茂郡八百津町に父好水、母やつの間に杉原家二男として生まれる。この「千畝」の名は千枚田、つまり棚田を意味している。
　１９９９年には郷里の棚田が「棚田百選」に認定された。
　杉原氏は少年時代、父親の転勤と共に転校を繰り返し、１９１２年（明治４５年）３月に名古屋市立古渡尋常小学校（現・名古屋市立平和小学校）を全甲の成績で卒業し、翌４月に本校、愛知県立瑞陵高等学校の前身である愛知県立第五中学校（五年制）に入学した。この間にはサラエボ事件や第一次世界大戦などが勃発し、激動の時代に青春を過ごした。
　そして１９１７年（大正６年）第五中学校を卒業し、父好水は京城に赴任し、中学を卒業する杉原氏のために、京城医学専門学校への入学試験の手続きをしたが、本人は英語を扱う職に就きたいという夢の為に試験を白紙で提出し、弁当だけを食べて帰宅した。しかし、このことが原因で父・好水に勘当され、翌年三月に上京した。
　当時、早稲田大学は普通の中学出であれば誰でも入学が出来た。杉原氏は語学界の権威がそろっていたこの大学の高等師範部英語科に入学し、予科の１年間はほとんどアルバイトで学費を稼いでいたという。
　１９１９年、本科に進んで半年も経ないうちに図書館で外務省の官費留学生の募集広告を見て、早稲田大学を中退し、僅か一ヶ月余りの勉強で見事試験に合格し、試験担当官の勧めでロシア語講習を選択した。本来ならばソ連のペテルブルクかモスクワで学ぶはずだったが、当時日本はシベリア出兵を行っており、交戦中だったため、ロシア人が多く住みついている中国東北部のハルビンで学ぶこととなった。しばらくして、杉原氏は１９２０年９月に創立された日露教会学校（後のハルピン学院）の特修生となり、初代校長の後藤新平が、創立に当って述べた「自治三訣」の、「人のお世話にならぬよう」「人のお世話をするよう」という考えがリトアニアでの彼の真摯な好意の続行に力を貸し、戦後の杉原氏に沈黙を守らせたようだ。
　杉原氏は晩年になって残した「千畝手記」に次のように書き残している。
「親の意志に従わず、早稲田大学に入学したことを、人生の第一の転機とするならば、外務省に入省したことは第二の転機となり、決定的な、運命の役割をすることとなった」