В 1933 году японский контр-адмирал Исороку Ямамото убедил командование в том, что для компенсирования британского и американского превосходства на море следует, в дополнение к палубной авиации, приступить к созданию авиации берегового базирования. Одним из первых заказов на разработку такого самолета получила фирма «Мицубиси». От конструкторского бюро фирмы потребовалось разработать и построить двухмоторный самолет-разведчик дальнего радиуса действия, на базе которого в дальнейшем можно было бы создать бомбардировщик-торпедоносец.

Получивший фирменное обозначение «Ка-9», а войсковое «G1M1» первый построенный самолет был поднят в воздух в середине апреля 1934 года. В его оснащение входили два двигателя «Хиро», имеющие водяное охлаждение и обладающие мощностью в 750 л.с. каждый. Самолет отличался хорошей управляемостью и маневренностью. Его дальность полета превышала 4400 км.

Результаты проведенных испытаний выглядели весьма многообещающе. Хотя построенный самолет-разведчик и не мог быть использован в качестве бомбардировщика-торпедоносца, тем не менее, его вполне можно было использовать как базу для дальнейшего развития наземной авиации. Впоследствии, в результате проведенных испытаний, был разработан список конструктивных требований для будущего двухмоторного бомбардировщика. Это должен был быть самолет с характеристиками на уровне «G1M1» с вооружением, состоящим из трех пулеметов калибра 7,7 мм, установленных на подвижных турелях. Он должен был нести груз массой до 800 кг или одну торпеду, которая бы размещалась на внешней подвеске. Задача по созданию самолета была поручена конструкторскому бюро фирмы «Мицубиси», возглавляемому Киро Хоне.

Как и предполагалось, конструкцию нового самолета было решено разработать на базе «Ка-9». У него было позаимствована конструкция крыла и разнесенного хвостового оперения, правда, несколько увеличенного, дабы повысить устойчивость машины при сбрасывании бомб. Заново был спроектирован только фюзеляж. В сравнении со своим предшественником, «Ка-15» – такое название было дано ему фирмой – стал несколько больше в объеме.

Самолет оснастили тремя выдвижными стрелковыми башнями, две из которых находились вверху и одна внизу. В каждой из них установили по 7,7-мм пулемету типа 92. Дабы улучшить аэродинамические свойства верхнюю поверхность крыла обшили гладким металлом, отказавшись от гофрированного, примененного на «Ка-9». Помимо этого было решено упростить и в то же время усилить конструкцию шасси.

В июле 1935 года самолет впервые поднялся в воздух. Как оказалось впоследствии, он смог превзойти все существующие та тот момент самолеты своего класса в мире.

В течение всего следующего года фирма «Мицубиси» выпустила еще 20 (двадцать!) различных опытных образцов. Все они были подвергнуты интенсивным испытаниям. Летчики морской авиации Японии весьма благосклонно отзывались о них. При выборе модели для серийного производства внимание начальствующего состава было остановлено на четвертом образце самолета, оснащенного двигателями «Кинсей-3», неостекленной частью носа и подвергшимся модификации фонарем кабины пилота.