Fetching details from the dictionary...

late at night
深夜まで仕事をして疲れてしまったよ。
I worked until late at night and got tired.
深夜の電話は緊急の用件だと思った。
I thought the late-night call was urgent business.
深夜番組を見ていたら眠れなくなった。
I couldn't sleep after watching a late-night program.