PySpark python error: Exception: процесс Java gateway вышел перед отправкой драйверу его номера порта
Я использую PySpark с python 3, и я только что загрузил pyspark с командой
conda install pyspark
И его успешно загрузить, я импортировал файл в Jupyter Notebook , а затем попытался запустить следующий код
sc1 = sp.SparkContext.getOrCreate()
Я получаю следующее исключение
Exception Traceback (most recent call last)
<ipython-input-9-a4daca8dcb9d> in <module>()
----> 1 sc1 = sp.SparkContext.getOrCreate()
~Anaconda3libsite-packagespysparkcontext.py in getOrCreate(cls, conf)
332 with SparkContext._lock:
333 if SparkContext._active_spark_context is None:
--> 334 SparkContext(conf=conf or SparkConf())
335 return SparkContext._active_spark_context
336
~Anaconda3libsite-packagespysparkcontext.py in __init__(self, master, appName, sparkHome, pyFiles, environment, batchSize, serializer, conf, gateway, jsc, profiler_cls)
113 """
114 self._callsite = first_spark_call() or CallSite(None, None, None)
--> 115 SparkContext._ensure_initialized(self, gateway=gateway, conf=conf)
116 try:
117 self._do_init(master, appName, sparkHome, pyFiles, environment, batchSize, serializer,
~Anaconda3libsite-packagespysparkcontext.py in _ensure_initialized(cls, instance, gateway, conf)
281 with SparkContext._lock:
282 if not SparkContext._gateway:
--> 283 SparkContext._gateway = gateway or launch_gateway(conf)
284 SparkContext._jvm = SparkContext._gateway.jvm
285
~Anaconda3libsite-packagespysparkjava_gateway.py in launch_gateway(conf)
93 callback_socket.close()
94 if gateway_port is None:
---> 95 raise Exception("Java gateway process exited before sending the driver its port number")
96
97 # In Windows, ensure the Java child processes do not linger after Python has exited.
Exception: Java gateway process exited before sending the driver its port number
Я попробовал несколько решений, но ни одно из них не сработало..
Есть предложения??
2 ответов:
Проблема в Windows заключается в том, что путь к каталогу JAVA_HOME не должен содержать пробелов, как в "C:\Program файлы". Я заново установил Java в "C:\Java" директория и проблема исчезли.
Решение предоставляется здесь Решение для пользователя windows, Как установить его, шаг за шагом инструкции, я следовал, и это сработало для меня, попробуйте это.
Comments