окно.close()

или

close()

Пример

var win;
function openw() {
//Создадим новое окно win 
win = window.open();
}
function closew() {
//Закроем окно win (если оно существует т.е. было открыто)
if (win != null) { win.close(); }
}