天平勝宝4年(
752年)遣唐副使に任じられ、大使
藤原清河とともに入唐。天平勝宝5年(
753年)正月、
玄宗臨御の諸藩の朝賀に出席。古麻呂は
日本の席次が西畔(西側)第二席で、
新羅の東畔第一席より下であったことに抗議し、新羅より上席に代えさせている
[『続日本紀』天平勝宝6年条]。天平勝宝6年(
754年)帰国の際、遣唐使一行は
鑑真を同行させようとしたが、唐の官憲がこれを禁じた。大使藤原清河は鑑真一行の乗船を拒否したが、古麻呂は独断でこれを許して副使船に乗船させた。帰路、大使船は暴風雨に遭い、南方に流されて帰国できなかったが(藤原清河は唐で客死)、副使船は無事帰国して鑑真を来日させることができた。同年、左大弁に任じられる。