]> granicus.if.org Git - vim/commitdiff
patch 7.4.1963 v7.4.1963
authorBram Moolenaar <Bram@vim.org>
Sun, 26 Jun 2016 18:37:46 +0000 (20:37 +0200)
committerBram Moolenaar <Bram@vim.org>
Sun, 26 Jun 2016 18:37:46 +0000 (20:37 +0200)
Problem:    Running Win32 Vim in mintty does not work.
Solution:   Detect mintty and give a helpful error message. (Ken Takata)

Filelist
src/Make_cyg_ming.mak
src/Make_mvc.mak
src/iscygpty.c [new file with mode: 0644]
src/iscygpty.h [new file with mode: 0644]
src/main.c
src/version.c

index d7fbecb0e4b7fcb12090720b72b2efc4dc769ee1..a6b159ea2fd1c5ceb9c52db27e25d96c0de69f56 100644 (file)
--- a/Filelist
+++ b/Filelist
@@ -317,6 +317,8 @@ SRC_DOS =   \
                src/if_ole.h \
                src/if_ole.idl \
                src/if_perl_msvc/stdbool.h \
+               src/iscygpty.c \
+               src/iscygpty.h \
                src/iid_ole.c \
                src/os_dos.h \
                src/os_w32dll.c \
index cdf10aceef3cd2a887c5918a59e582e17292ad0a..86bbc3e5863f278ffabcc9606449944e527395bc 100644 (file)
@@ -592,6 +592,7 @@ endif
 
 LIB = -lkernel32 -luser32 -lgdi32 -ladvapi32 -lcomdlg32 -lcomctl32 -lversion
 GUIOBJ =  $(OUTDIR)/gui.o $(OUTDIR)/gui_w32.o $(OUTDIR)/gui_beval.o $(OUTDIR)/os_w32exe.o
+CUIOBJ = $(OUTDIR)/iscygpty.o
 OBJ = \
        $(OUTDIR)/blowfish.o \
        $(OUTDIR)/buffer.o \
@@ -727,6 +728,7 @@ OBJ += $(GUIOBJ)
 LFLAGS += -mwindows
 OUTDIR = gobj$(DEBUG_SUFFIX)$(MZSCHEME_SUFFIX)$(ARCH)
 else
+OBJ += $(CUIOBJ)
 TARGET := vim$(DEBUG_SUFFIX).exe
 OUTDIR = obj$(DEBUG_SUFFIX)$(MZSCHEME_SUFFIX)$(ARCH)
 endif
@@ -842,6 +844,7 @@ endif
 INCL = vim.h feature.h os_win32.h os_dos.h ascii.h keymap.h term.h macros.h \
        structs.h regexp.h option.h ex_cmds.h proto.h globals.h farsi.h \
        gui.h
+CUI_INCL = iscygpty.h
 
 $(OUTDIR)/if_python.o : if_python.c if_py_both.h $(INCL)
        $(CC) -c $(CFLAGS) $(PYTHONINC) $(PYTHON_HOME_DEF) $< -o $@
@@ -887,6 +890,12 @@ if_perl.c: if_perl.xs typemap
        $(XSUBPP) -prototypes -typemap \
             $(PERLTYPEMAP) if_perl.xs > $@
 
+$(OUTDIR)/iscygpty.o:  iscygpty.c $(CUI_INCL)
+       $(CC) -c $(CFLAGS) iscygpty.c -o $(OUTDIR)/iscygpty.o -D_WIN32_WINNT=0x0600 -DUSE_DYNFILEID -DENABLE_STUB_IMPL
+
+$(OUTDIR)/main.o:              main.c $(INCL) $(CUI_INCL)
+       $(CC) -c $(CFLAGS) main.c -o $(OUTDIR)/main.o
+
 $(OUTDIR)/netbeans.o:  netbeans.c $(INCL) $(NBDEBUG_INCL) $(NBDEBUG_SRC)
        $(CC) -c $(CFLAGS) netbeans.c -o $(OUTDIR)/netbeans.o
 
index f1e3f01386f8691c15eaecadeee7914582e67b4a..5687f0999fc184192c53b48ca899318b88455b44 100644 (file)
@@ -655,6 +655,8 @@ GUI_LIB = \
        /machine:$(CPU)
 !else
 SUBSYSTEM = console
+CUI_INCL = iscygpty.h
+CUI_OBJ = $(OUTDIR)\iscygpty.obj
 !endif
 
 !if "$(SUBSYSTEM_VER)" != ""
@@ -1026,12 +1028,12 @@ all:    $(VIM).exe \
        tee/tee.exe \
        GvimExt/gvimext.dll
 
-$(VIM).exe: $(OUTDIR) $(OBJ) $(GUI_OBJ) $(OLE_OBJ) $(OLE_IDL) $(MZSCHEME_OBJ) \
+$(VIM).exe: $(OUTDIR) $(OBJ) $(GUI_OBJ) $(CUI_OBJ) $(OLE_OBJ) $(OLE_IDL) $(MZSCHEME_OBJ) \
                $(LUA_OBJ) $(PERL_OBJ) $(PYTHON_OBJ) $(PYTHON3_OBJ) $(RUBY_OBJ) $(TCL_OBJ) \
                $(CSCOPE_OBJ) $(NETBEANS_OBJ) $(CHANNEL_OBJ) $(XPM_OBJ) \
                version.c version.h
        $(CC) $(CFLAGS) version.c
-       $(link) $(LINKARGS1) -out:$(VIM).exe $(OBJ) $(GUI_OBJ) $(OLE_OBJ) \
+       $(link) $(LINKARGS1) -out:$(VIM).exe $(OBJ) $(GUI_OBJ) $(CUI_OBJ) $(OLE_OBJ) \
                $(LUA_OBJ) $(MZSCHEME_OBJ) $(PERL_OBJ) $(PYTHON_OBJ) $(PYTHON3_OBJ) $(RUBY_OBJ) \
                $(TCL_OBJ) $(CSCOPE_OBJ) $(NETBEANS_OBJ) $(CHANNEL_OBJ) \
                $(XPM_OBJ) $(OUTDIR)\version.obj $(LINKARGS2)
@@ -1223,9 +1225,12 @@ $(OUTDIR)/if_ruby.obj: $(OUTDIR) if_ruby.c  $(INCL)
 $(OUTDIR)/if_tcl.obj: $(OUTDIR) if_tcl.c  $(INCL)
        $(CC) $(CFLAGS) $(TCL_INC) if_tcl.c
 
+$(OUTDIR)/iscygpty.obj:        $(OUTDIR) iscygpty.c $(CUI_INCL)
+       $(CC) $(CFLAGS) iscygpty.c -D_WIN32_WINNT=0x0600 -DUSE_DYNFILEID -DENABLE_STUB_IMPL
+
 $(OUTDIR)/json.obj:    $(OUTDIR) json.c  $(INCL)
 
-$(OUTDIR)/main.obj:    $(OUTDIR) main.c  $(INCL)
+$(OUTDIR)/main.obj:    $(OUTDIR) main.c  $(INCL) $(CUI_INCL)
 
 $(OUTDIR)/mark.obj:    $(OUTDIR) mark.c  $(INCL)
 
diff --git a/src/iscygpty.c b/src/iscygpty.c
new file mode 100644 (file)
index 0000000..4a6dc3d
--- /dev/null
@@ -0,0 +1,181 @@
+/*
+ * iscygpty.c -- part of ptycheck
+ * https://github.com/k-takata/ptycheck
+ *
+ * Copyright (c) 2015-2016 K.Takata
+ *
+ * You can redistribute it and/or modify it under the terms of either
+ * the MIT license (as described below) or the Vim license.
+ *
+ * Permission is hereby granted, free of charge, to any person obtaining
+ * a copy of this software and associated documentation files (the
+ * "Software"), to deal in the Software without restriction, including
+ * without limitation the rights to use, copy, modify, merge, publish,
+ * distribute, sublicense, and/or sell copies of the Software, and to
+ * permit persons to whom the Software is furnished to do so, subject to
+ * the following conditions:
+ *
+ * The above copyright notice and this permission notice shall be
+ * included in all copies or substantial portions of the Software.
+ *
+ * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
+ * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
+ * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.
+ * IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY
+ * CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
+ * TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
+ * SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
+ */
+
+#include <ctype.h>
+#include <io.h>
+#include <wchar.h>
+#include <windows.h>
+
+#ifdef USE_FILEEXTD
+/* VC 7.1 or earlier doesn't support SAL. */
+# if !defined(_MSC_VER) || (_MSC_VER < 1400)
+#  define __out
+#  define __in
+#  define __in_opt
+# endif
+/* Win32 FileID API Library:
+ * http://www.microsoft.com/en-us/download/details.aspx?id=22599
+ * Needed for WinXP. */
+# include <fileextd.h>
+#else /* USE_FILEEXTD */
+/* VC 8 or earlier. */
+# if defined(_MSC_VER) && (_MSC_VER < 1500)
+#  ifdef ENABLE_STUB_IMPL
+#   define STUB_IMPL
+#  else
+#   error "Win32 FileID API Library is required for VC2005 or earlier."
+#  endif
+# endif
+#endif /* USE_FILEEXTD */
+
+
+#include "iscygpty.h"
+
+//#define USE_DYNFILEID
+#ifdef USE_DYNFILEID
+typedef BOOL (WINAPI *pfnGetFileInformationByHandleEx)(
+               HANDLE                                    hFile,
+               FILE_INFO_BY_HANDLE_CLASS FileInformationClass,
+               LPVOID                                    lpFileInformation,
+               DWORD                                     dwBufferSize
+);
+static pfnGetFileInformationByHandleEx pGetFileInformationByHandleEx = NULL;
+
+# ifndef USE_FILEEXTD
+static BOOL WINAPI stub_GetFileInformationByHandleEx(
+               HANDLE                                    hFile,
+               FILE_INFO_BY_HANDLE_CLASS FileInformationClass,
+               LPVOID                                    lpFileInformation,
+               DWORD                                     dwBufferSize
+               )
+{
+       return FALSE;
+}
+# endif
+
+static void setup_fileid_api(void)
+{
+       if (pGetFileInformationByHandleEx != NULL) {
+               return;
+       }
+       pGetFileInformationByHandleEx = (pfnGetFileInformationByHandleEx)
+               GetProcAddress(GetModuleHandle(TEXT("kernel32.dll")),
+                               "GetFileInformationByHandleEx");
+       if (pGetFileInformationByHandleEx == NULL) {
+# ifdef USE_FILEEXTD
+               pGetFileInformationByHandleEx = GetFileInformationByHandleEx;
+# else
+               pGetFileInformationByHandleEx = stub_GetFileInformationByHandleEx;
+# endif
+       }
+}
+#else
+# define pGetFileInformationByHandleEx GetFileInformationByHandleEx
+# define setup_fileid_api()
+#endif
+
+
+#define is_wprefix(s, prefix) \
+       (wcsncmp((s), (prefix), sizeof(prefix) / sizeof(WCHAR) - 1) == 0)
+
+/* Check if the fd is a cygwin/msys's pty. */
+int is_cygpty(int fd)
+{
+#ifdef STUB_IMPL
+       return 0;
+#else
+       HANDLE h;
+       int size = sizeof(FILE_NAME_INFO) + sizeof(WCHAR) * MAX_PATH;
+       FILE_NAME_INFO *nameinfo;
+       WCHAR *p = NULL;
+
+       setup_fileid_api();
+
+       h = (HANDLE) _get_osfhandle(fd);
+       if (h == INVALID_HANDLE_VALUE) {
+               return 0;
+       }
+       /* Cygwin/msys's pty is a pipe. */
+       if (GetFileType(h) != FILE_TYPE_PIPE) {
+               return 0;
+       }
+       nameinfo = malloc(size);
+       if (nameinfo == NULL) {
+               return 0;
+       }
+       /* Check the name of the pipe:
+        * '\{cygwin,msys}-XXXXXXXXXXXXXXXX-ptyN-{from,to}-master' */
+       if (pGetFileInformationByHandleEx(h, FileNameInfo, nameinfo, size)) {
+               nameinfo->FileName[nameinfo->FileNameLength / sizeof(WCHAR)] = L'\0';
+               p = nameinfo->FileName;
+               if (is_wprefix(p, L"\\cygwin-")) {              /* Cygwin */
+                       p += 8;
+               } else if (is_wprefix(p, L"\\msys-")) { /* MSYS and MSYS2 */
+                       p += 6;
+               } else {
+                       p = NULL;
+               }
+               if (p != NULL) {
+                       while (*p && isxdigit(*p))      /* Skip 16-digit hexadecimal. */
+                               ++p;
+                       if (is_wprefix(p, L"-pty")) {
+                               p += 4;
+                       } else {
+                               p = NULL;
+                       }
+               }
+               if (p != NULL) {
+                       while (*p && isdigit(*p))       /* Skip pty number. */
+                               ++p;
+                       if (is_wprefix(p, L"-from-master")) {
+                               //p += 12;
+                       } else if (is_wprefix(p, L"-to-master")) {
+                               //p += 10;
+                       } else {
+                               p = NULL;
+                       }
+               }
+       }
+       free(nameinfo);
+       return (p != NULL);
+#endif /* STUB_IMPL */
+}
+
+/* Check if at least one cygwin/msys pty is used. */
+int is_cygpty_used(void)
+{
+       int fd, ret = 0;
+
+       for (fd = 0; fd < 3; fd++) {
+               ret |= is_cygpty(fd);
+       }
+       return ret;
+}
+
+/* vim: set ts=4 sw=4: */
diff --git a/src/iscygpty.h b/src/iscygpty.h
new file mode 100644 (file)
index 0000000..fbca4b4
--- /dev/null
@@ -0,0 +1,36 @@
+/*
+ * iscygpty.h -- part of ptycheck
+ * https://github.com/k-takata/ptycheck
+ *
+ * Copyright (c) 2015-2016 K.Takata
+ *
+ * You can redistribute it and/or modify it under the terms of either
+ * the MIT license (as described below) or the Vim license.
+ *
+ * Permission is hereby granted, free of charge, to any person obtaining
+ * a copy of this software and associated documentation files (the
+ * "Software"), to deal in the Software without restriction, including
+ * without limitation the rights to use, copy, modify, merge, publish,
+ * distribute, sublicense, and/or sell copies of the Software, and to
+ * permit persons to whom the Software is furnished to do so, subject to
+ * the following conditions:
+ *
+ * The above copyright notice and this permission notice shall be
+ * included in all copies or substantial portions of the Software.
+ *
+ * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
+ * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
+ * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.
+ * IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY
+ * CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
+ * TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
+ * SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
+ */
+
+#ifndef _ISCYGPTY_H
+#define _ISCYGPTY_H
+
+int is_cygpty(int fd);
+int is_cygpty_used(void);
+
+#endif /* _ISCYGPTY_H */
index c877800545080e6f7e2441faf9d283a9d00e4999..958e9c8fc63fcadd997e7a9d04e4bf49a9daef91 100644 (file)
 # include <limits.h>
 #endif
 
+#if defined(WIN3264) && !defined(FEAT_GUI_W32)
+# include "iscygpty.h"
+#endif
+
 /* Maximum number of commands from + or -c arguments. */
 #define MAX_ARG_CMDS 10
 
@@ -2553,6 +2557,13 @@ check_tty(mparm_T *parmp)
            mch_errmsg(_("Vim: Error: Failure to start gvim from NetBeans\n"));
            exit(1);
        }
+#endif
+#if defined(WIN3264) && !defined(FEAT_GUI_W32)
+       if (is_cygpty_used())
+       {
+           mch_errmsg(_("Vim: Error: This version of Vim does not run in a Cygwin terminal\n"));
+           exit(1);
+       }
 #endif
        if (!parmp->stdout_isatty)
            mch_errmsg(_("Vim: Warning: Output is not to a terminal\n"));
index 286cbcb9e9b6f9276335dff2ec0799f1cbeac200..db3a1581a8527748a8c265939728cedabaaee93b 100644 (file)
@@ -753,6 +753,8 @@ static char *(features[]) =
 
 static int included_patches[] =
 {   /* Add new patch number below this line */
+/**/
+    1963,
 /**/
     1962,
 /**/