Опеределяем границы области треугольника по введенных координатам верхней левой и нижней правой вершины прямоугольника.

 

#include <iostream>
usingnamespace std;
 
void triAreaGener(int X1,int Y1, int X2, int Y2, int X, int Y)
{
 if(Y>2*(Y1-Y2)*(X-X1)/(X2-X1)+Y2 && Y>2*(Y1-Y2)*(X-X2)/(X1-X2)+Y2 && Y<Y2)
 cout<<"Попал"<<endl;
 else
 cout<<"Мимо"<<endl;
}
 
 
int main()
{
 setlocale(LC_ALL,"");
 int x1,y1,x2,y2,x3,y3;
 
 cout<<"Введите координаты верхней левой точки прямоугольника: ";
 cin>>x1>>y1;
 cout<<"Введите координаты нижней правой точки прямоугольника: ";
 cin>>x2>>y2;
 cout<<"Введите координаты точки попадания: ";
 cin>>x3>>y3;
 
 triAreaGener(x1,y1,x2,y2,x3,y3);
 
 return0;
}