Хорошая идея. Но почему только Instagram? Другие тоже хотят или могут хотеть

опишите подробней как вы видите себе логику работы продукта? что приходит на вход? какой вы ожидаете результат на выходе?

Так одежда, это не жёсткая маска, пользователь не узнает, как одежда на него сядит, это можно сделать но, сложнее и точно не в Инстаграме.
Плюс, как вы на фронтальную камеру телефона сможете одновременно снимать себя во весь рост и смотреть на себя в новом образе?

Смотрите, как работают маски для лиц, находится лицо и лепится маска, она жёсткая, ее суть просто закрыть лицо.
Суть виртуальной примерочной, сложнее чем вы себе представляете, нужно не просто наложить модельку платья на человека, как маску, а использовать дополнительную реальность, когда кто-то тебя снимает на видио, а потом накладывается одежда для примерки, в общем если хотите этим заняться, то это сложнее чем вы думаете, и точно не для Инстаграмма. Вот как пример почитайте citydog.by

Принципиальная разница в том, что одежда, не маска, если сделать простое наложение то это ерунда, а не виртуальная примерка.
Объесню так маска накладывается на лицо путем нахождения границ лица при захвате каждого кадра с камеры, она двумерна нужно знать просто овал лица.
Как пользователь такой программы, может узнать, как поведет себя платье на девушке, если она будет в движении например, кружится.
Как поведет себя пальто когда я подниму руки в верх.
Ваш подход не решит этих проблем. Да вы можете это реализовать так как вы это задумали, но ещё раз повторюсь будет не примерка.
Приведу вам пример, скачайте например Face Swap на андроид, включите любую маску и поверните голову в сторону или наклоните вперёд, она потеряет лицо, в примерочной такого быть не должно.