Итак, задача простая. Необходимо программно закрыть приложение. Например, Калькулятор из стандартной поставки Windows. Вообщем нам надо просто послать калькулятору сообщение WM_QUIT. Для этого воспользуемся функцией PostMessage:

PostMessage
(
	HWND hwnd,			// дискриптор окна
	UINT message,			// сообщение
	WPARAM wParam = 0, 		// параметры
	LPARAM lParam = 0 
);

Эта функция поставит сообщение в очередь сообщений Windows. Окно естественно до него доберется и выполнит. Одна сложность это как найти дескриптор окна - FindWindow это знакомо. Вот пример, который закроет калькулятор.

// Post.cpp : Defines the entry point for the console application.
//
#include "stdafx.h"
#include "windows.h"
#include "iostream.h"

void main()
{
   PostMessage(FindWindow(NULL, "Калькулятор"), WM_QUIT, 0, 0); 
}

Соберите программу. Запустите калькулятор, а потом нашу программу. Калькулятор будет закрыт.