Уникальность в XSD или DTD с пространствами имен

1. Название песен не может повторяться. (Я не уверен, сделал ли я это в своем коде, пожалуйста, проверьте)

Да, потому что maxOccurs по умолчанию равно 1. (Значения по умолчанию для minOccurs и maxOccurs равны 1.)

Обновление: чтобы содержимое name2 было уникальным в пределах catalog, используйте xs:unique, как показано в XSD ниже. Затем, если, скажем, есть два элемента name2 с содержимым "Bed of Roses", вы получите сообщение об ошибке, подобное следующему:

[Ошибка].

Следующий вопрос:

2. элементы comments и genre могут быть необязательными, остальные обязательны. (Я не уверен, сделал ли я это в своем коде, пожалуйста, проверьте)

Да, потому что у comments и genre есть minOccurs="0", а у остальных minOccurs="1".

3. Есть только 3 типа значений для жанра элемента: поп, рок и джаз. (Я уверен, что сделал это в своем коде, пожалуйста, проверьте)

Правильный.

Теперь об ошибках:

DTD несовместимы с пространствами имен XML без неестественных искажений.

Рекомендую отказаться от DTD и использовать только XSD.

Затем ваш XML без строки DOCTYPE и с небольшой синтаксической правкой (удалить пробел в xsi:schemaLoc ation),

<?xml version="1.0" encoding="UTF-8"?>
<catalog 
    xmlns="http://www.w3schools.com" 
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" 
    xsi:schemaLocation="http://www.w3schools.com catalog.xsd">

  <song>
    <name2>Bed of Roses</name2>
    <artist>Bon Jovi</artist>
    <album>Cross Road</album>
    <year>1995</year>
    <genre>rock</genre>
    <comments>Good song</comments>
    <path>C://music/bon jovi</path>
  </song>
  <song>
    <name2>Fly Away from here</name2>
    <artist>Aerosmith</artist>
    <album>Just Push Play</album>
    <year>2001</year>
    <genre>rock</genre>
    <comments>Good song</comments>
    <path>C://music/aerosmith</path>
  </song>
  <song>
    <name2>Jossie</name2>
    <artist>Blink 182</artist>
    <album>Blink 182</album>
    <year>2001</year>
    <genre>pop</genre>
    <comments>Good song</comments>
    <path>C://music/blink 182</path>
  </song>
  <song>
    <name2>Want you bad</name2>
    <artist>The Offspring</artist>
    <album>Conspiracy of One</album>
    <year>2000</year>
    <genre>pop</genre>
    <comments>Good song</comments>
    <path>C://music/the offspring</path>
  </song>
  <song>
    <name2>The One that you love</name2>
    <artist>Air Supply</artist>
    <album>The One that you love</album>
    <year>1981</year>
    <genre>pop</genre>
    <comments>Good song</comments>
    <path>C://music/air supply</path>
  </song>

</catalog>

Будет действителен для вашего XSD (опять же, с небольшой синтаксической поправкой: добавьте пробел перед type в объявлении name2):

Обновление: теперь демонстрирует xs:unique для name2:

<?xml version="1.0"?>
<xs:schema xmlns:xs="http://www.w3.org/2001/XMLSchema"
           targetNamespace="http://www.w3schools.com"
           xmlns:w3="http://www.w3schools.com"
           elementFormDefault="qualified">

  <xs:element name="catalog">
    <xs:complexType>
      <xs:sequence>
        <xs:element name="song" maxOccurs="5">
          <xs:complexType>
            <xs:sequence>
              <xs:element name="name2" minOccurs="1" type="xs:string"/>
              <xs:element name="artist" minOccurs="1" type="xs:string"/>
              <xs:element name="album" minOccurs="1" type="xs:string"/>
              <xs:element name="year" minOccurs="1" type="xs:integer"/>
              <xs:element name="genre" minOccurs="0">
                <xs:simpleType>
                  <xs:restriction base="xs:string">
                    <xs:enumeration value="pop"/>
                    <xs:enumeration value="rock"/>
                    <xs:enumeration value="jazz"/>
                  </xs:restriction>
                </xs:simpleType>
              </xs:element>                     
              <xs:element name="comments" minOccurs="0" type="xs:string"/>
              <xs:element name="path" minOccurs="1" type="xs:string"/>
            </xs:sequence>
          </xs:complexType>
        </xs:element>
      </xs:sequence>
    </xs:complexType>
    <xs:unique name="catalog-song-name2-unique">
      <xs:selector xpath="w3:song"/>
      <xs:field xpath="w3:name2"/>
    </xs:unique>
  </xs:element>
</xs:schema>