Какая версия Hadoop поддерживается cassandra 2.0

Я написал задание в Hadoop 2.2.0, которое читает входной файл и массово загружает данные в cassandra 2.0.

Однако я получил ошибку (из-за разницы в распределении хаупов, используемых при компиляции и выполнении)

[root@hadoopslave ~]# hadoop jar ultra-bulkloader-hadoop.jar
14/07/10 01:08:01 INFO client.RMProxy: Connecting to ResourceManager at /10.211.212.157:8040
Exception in thread "main" java.lang.IncompatibleClassChangeError: Found interface org.apache.hadoop.mapreduce.JobContext, but class was expected
    at org.apache.cassandra.hadoop.BulkOutputFormat.checkOutputSpecs(BulkOutputFormat.java:35)
    at org.apache.hadoop.mapreduce.JobSubmitter.checkSpecs(JobSubmitter.java:456)
    at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:342)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1268)
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1265)
    at java.security.AccessController.doPrivileged(Native Method)
    at javax.security.auth.Subject.doAs(Subject.java:415)
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1491)
    at org.apache.hadoop.mapreduce.Job.submit(Job.java:1265)
    at org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1286)
    at com.home.task.hadoop.bulkloader.BulkLoaderDriver.run(BulkLoaderDriver.java:38)
    at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:70)
    at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:84)
    at com.home.task.hadoop.bulkloader.BulkLoaderDriver.main(BulkLoaderDriver.java:42)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:606)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:212)

Какая версия Hadoop поддерживается cassandra 2.0?


java hadoop yarn cassandra-2.0
person S Kr    schedule 10.07.2014    source источник
comment
Это проблема совместимости с банками hadoop 1/2. Проверьте это: stackoverflow.com/questions/22630323/ и stackoverflow.com/questions/21873050/   -  person Ramanan    schedule 10.07.2014
comment
Да, я искал это, но мой вопрос в том, какая версия Hadoop поддерживается cassandra 2.0. Также кто-то пометил его как дубликат. Но это не так и связано с запросом версии Hadoop Кассандры.   -  person S Kr    schedule 10.07.2014
comment
groups.google.com/forum/#!topic/nosql- базы данных/Y-9amAdZk1s   -  person Ramanan    schedule 10.07.2014
comment
Надеюсь, кто-нибудь объединит github.com/VerticalSearchWorks/cassandra/tree/Cassandra2-CDH4 к основному выпуску Кассандры   -  person S Kr    schedule 10.07.2014

Ответы (2)


arrow_upward
0
arrow_downward

Исправление доступно на cassandra 2.0.6.

https://issues.apache.org/jira/browse/CASSANDRA-5201

person S Kr    schedule 10.07.2014

arrow_upward
0
arrow_downward

Я исправил аналогичную проблему, обновив API с cassandra 1.1.1 до cassandra 2.0.7, так как я работал с cassandra 2.0.7.

      <properties>                                                                                    
              <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>                      
~             <cassandra.version>2.0.7</cassandra.version>                                            
      </properties>  

          <dependency>                                                                                   
              <groupId>org.apache.cassandra</groupId>                                                    
              <artifactId>cassandra-all</artifactId>                                                     
              <version>${cassandra.version}</version>                                                    
              <exclusions>                                                                               
                  <exclusion>                                                                            
                      <artifactId>libthrift</artifactId>                                                 
                      <groupId>org.apache.thrift</groupId>                                               
                  </exclusion>                                                                           
              </exclusions>                                                                              
          </dependency>                                                                                  
          <dependency>                                                                                   
              <groupId>org.apache.cassandra</groupId>                                                    
              <artifactId>cassandra-thrift</artifactId>                                                                                               
              <version>${cassandra.version}</version>                                                    
              <exclusions>                                                                               
                  <exclusion>                                                                            
                      <artifactId>libthrift</artifactId>                                                 
                      <groupId>org.apache.thrift</groupId>                                               
                  </exclusion>                                                                           
              </exclusions>                                                                              
          </dependency>
person prayagupd    schedule 22.11.2014